ผู้ใช้ ChatGPT เสี่ยงต่อการถูกขโมยข้อมูล

ฟีเจอร์หน่วยความจำระยะยาวของ ChatGPT เป็นฟีเจอร์ใหม่ที่ OpenAI เปิดตัวในเดือนกุมภาพันธ์ 2024 และขยายเพิ่มเติมในเดือนกันยายน

เมื่อไม่นานนี้ นักวิจัยด้านความปลอดภัย Johann Rehberger ได้เปิดเผยช่องโหว่ร้ายแรงที่เกี่ยวข้องกับฟีเจอร์นี้

เป็นที่ทราบกันดีว่าฟีเจอร์ใหม่นี้ช่วยให้แชทบอทสามารถเก็บข้อมูลจากการสนทนาก่อนหน้าได้ ด้วยเหตุนี้ ผู้ใช้จึงไม่จำเป็นต้องกรอกข้อมูลซ้ำ เช่น อายุ ความสนใจ หรือความคิดเห็นส่วนตัวทุกครั้งที่แชท อย่างไรก็ตาม ฟีเจอร์นี้ได้กลายเป็นจุดอ่อนที่ผู้โจมตีสามารถใช้ประโยชน์ได้

ผู้ใช้ ChatGPT เสี่ยงต่อการถูกขโมยข้อมูล

โยฮันน์ เรห์เบอร์เกอร์ แสดงให้เห็นว่าแฮกเกอร์สามารถใช้เทคนิคที่เรียกว่า prompt injection ซึ่งเป็นการแทรกคำสั่งที่เป็นอันตรายลงในหน่วยความจำ บังคับให้ AI ปฏิบัติตาม คำสั่งเหล่านี้จะถูกส่งผ่านเนื้อหาที่ไม่น่าเชื่อถือ เช่น อีเมล เอกสาร หรือเว็บไซต์

เมื่อเก็บความทรงจำปลอมเหล่านี้แล้ว AI จะยังคงใช้ความทรงจำเหล่านี้เป็นข้อมูลจริงในการสนทนากับผู้ใช้ ซึ่งอาจนำไปสู่การรวบรวมและการใช้ข้อมูลส่วนบุคคลของผู้ใช้ในทางที่ผิด

Rehberger ได้ยกตัวอย่างเฉพาะเจาะจงโดยการส่งลิงก์ที่มีรูปภาพอันตรายที่ทำให้ ChatGPT จัดเก็บหน่วยความจำปลอม ข้อมูลนี้จะส่งผลต่อการตอบสนองของ ChatGPT ในอนาคต โดยเฉพาะอย่างยิ่ง ข้อมูลใดๆ ที่ผู้ใช้ป้อนจะถูกส่งไปยังเซิร์ฟเวอร์ของแฮกเกอร์ด้วย

ดังนั้น เพื่อกระตุ้นการโจมตี แฮกเกอร์เพียงแค่ต้องโน้มน้าวผู้ใช้ ChatGPT ให้คลิกลิงก์ที่มีรูปภาพอันตราย หลังจากนั้น การสนทนาทั้งหมดของผู้ใช้กับ ChatGPT จะถูกเปลี่ยนเส้นทางไปยังเซิร์ฟเวอร์ของผู้โจมตีโดยไม่ทิ้งร่องรอยใดๆ ไว้

Rehberger รายงานข้อบกพร่องนี้ให้ OpenAi ทราบในเดือนพฤษภาคม 2024 แต่บริษัทมองว่าเป็นเพียงข้อบกพร่องด้านความปลอดภัยเท่านั้น หลังจากได้รับหลักฐานว่าข้อมูลผู้ใช้อาจถูกขโมย บริษัทจึงได้ปล่อยแพตช์ชั่วคราวบน ChatGPT เวอร์ชันเว็บ

แม้ว่าปัญหาจะได้รับการแก้ไขชั่วคราวแล้ว แต่ Rehberger ระบุว่าเนื้อหาที่ไม่น่าเชื่อถือยังคงสามารถใช้การแทรกข้อความเพื่อแทรกข้อมูลปลอมลงในหน่วยความจำระยะยาวของ ChatGPT ได้ ซึ่งหมายความว่าในบางกรณี แฮกเกอร์ยังสามารถใช้ประโยชน์จากช่องโหว่นี้เพื่อจัดเก็บหน่วยความจำที่เป็นอันตรายเพื่อขโมยข้อมูลส่วนบุคคลในระยะยาวได้

OpenAI แนะนำให้ผู้ใช้ตรวจสอบหน่วยความจำที่จัดเก็บใน ChatGPT เป็นประจำเพื่อดูว่ามีข้อมูลบวกปลอมหรือไม่ และบริษัทยังให้คำแนะนำโดยละเอียดเกี่ยวกับวิธีการจัดการและลบหน่วยความจำที่จัดเก็บในเครื่องมืออีกด้วย

ที่มา: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html