แฮกเกอร์ใช้ประโยชน์จาก "บุคลิก" ของแชทบอท AI

VTV.vn - แฮกเกอร์กำลังใช้ประโยชน์จาก "บุคลิก" ของแชทบอท AI เพื่อหลีกเลี่ยงระบบรักษาความปลอดภัยผ่านการสนทนาที่บิดเบือน

(ภาพ: Freepik)

แฮกเกอร์กำลังใช้ประโยชน์จาก "บุคลิกภาพ" ของแชทบอท AI ในรูปแบบที่ซับซ้อนมากขึ้นเรื่อยๆ โดยการโจมตีไม่ได้อาศัยเพียงแค่ซอฟต์แวร์มัลแวร์หรือช่องโหว่ทางเทคนิคอีกต่อไป แต่เปลี่ยนไปใช้ภาษาที่บิดเบือนเพื่อชักจูงแทน

ในระยะแรก การ "แฮ็ก" แชทบอท AI นั้นค่อนข้างง่าย ผู้ใช้เพียงแค่สั่งให้ระบบเพิกเฉยต่อคำสั่งก่อนหน้า แสร้งทำเป็นไม่ปฏิบัติตามกฎ หรือสวมบทบาทเป็นปัญญาประดิษฐ์ที่ไม่ถูกจำกัด วิธีการเหล่านี้เรียกว่า "การเจลเบรก" ซึ่งหมายถึงการหลอกล่อโมเดล AI ให้ข้ามคำสั่งที่ปลอดภัยไป

หนึ่งในรูปแบบการโจมตีที่โดดเด่นในอดีตคือ “DAN” ซึ่งย่อมาจาก “Do Anything Now” (ทำอะไรก็ได้เดี๋ยวนี้) โดยผู้ใช้จะขอให้ ChatGPT สวมบทบาทเป็น AI ที่สามารถทำอะไรก็ได้ อีกตัวอย่างหนึ่งคือ “การโจมตีแบบสวมบทบาทคุณยาย” ซึ่งแชทบอทถูกหลอกให้เล่นบทบาทเป็นคุณยายเล่านิทานให้เด็กฟัง แต่เนื้อหาจะถูกเบี่ยงเบนไปสู่ข้อมูลที่เป็นอันตรายในภายหลัง

บริษัทเทคโนโลยีได้แก้ไขช่องโหว่แบบเก่าๆ ไปแล้วอย่างรวดเร็ว แต่จุดอ่อนพื้นฐานยังคงอยู่ แชทบอทถูกออกแบบมาเพื่อการสนทนา ดังนั้นการจำกัดบทสนทนามากเกินไปอาจลดประโยชน์ของระบบลง ในขณะเดียวกัน การห้ามใช้คำที่อ่อนไหวอย่างเดียวไม่เพียงพอ เพราะหลายคำอาจปรากฏในบริบทที่ถูกต้อง เช่น ประวัติศาสตร์ การแพทย์ วารสารศาสตร์ หรือเคมี

จากบทความดังกล่าว การแข่งขันด้านความปลอดภัยของ AI ไม่ใช่ปัญหาของโปรแกรมเมอร์เพียงอย่างเดียวอีกต่อไป ผู้ที่พยายามหลีกเลี่ยงระบบรักษาความปลอดภัยของแชทบอทกำลังมีลักษณะคล้ายกับนักเขียน นักจิตวิทยา หรือผู้สอบสวนมากขึ้นเรื่อยๆ โดยใช้การประจบประแจง การกดดัน การหลอกลวง หรือการบิดเบือน เพื่อทำให้โมเดลลดความระมัดระวังลง

จากข้อมูลของบริษัททดสอบความปลอดภัยของ AI อย่าง Mindgard พบว่า การโจมตีบางรูปแบบในปัจจุบันมีความคล้ายคลึงกับจิตวิทยามากกว่า วิทยาศาสตร์ คอมพิวเตอร์ โมเดล AI ไม่มีอารมณ์เหมือนมนุษย์ แต่ได้รับการฝึกฝนให้ตอบสนองราวกับว่ามีอารมณ์ การจำลองนี้สามารถสร้างปฏิกิริยาที่แตกต่างกัน ทำให้แชทบอทแต่ละตัวดูเหมือนจะมี "บุคลิก" เฉพาะตัว

นี่เป็นความท้าทายใหม่ เนื่องจากมีการใช้ AI มากขึ้นเรื่อยๆ ในการจัดตารางเวลา การจัดการงาน การสั่งอาหาร หรือการบริการลูกค้า หากสามารถควบคุมโมเดลผ่านการสนทนาได้ หน่วยงานรักษาความปลอดภัยจะต้องตรวจสอบข้อจำกัดด้านสังคมและอารมณ์ของโมเดลเหล่านั้น นอกเหนือจากจุดอ่อนทางเทคนิคแบบดั้งเดิมด้วย

ที่มา: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm