ผู้ใช้ ChatGPT เสี่ยงต่อการถูกขโมยข้อมูล

คุณสมบัติหน่วยความจำระยะยาวของ ChatGPT เป็นคุณสมบัติใหม่ที่ OpenAI เปิดตัวในเดือนกุมภาพันธ์ 2024 และพัฒนาเพิ่มเติมในเดือนกันยายน

เมื่อไม่นานมานี้ นักวิจัยด้านความปลอดภัย โยฮันน์ เรห์เบอร์เกอร์ ได้เปิดเผยช่องโหว่ร้ายแรงที่เกี่ยวข้องกับฟีเจอร์นี้

มีรายงานว่าฟีเจอร์ใหม่นี้ช่วยให้แชทบอทสามารถจัดเก็บข้อมูลจากการสนทนาครั้งก่อนๆ ได้ ซึ่งช่วยลดความจำเป็นที่ผู้ใช้จะต้องป้อนข้อมูลใหม่ เช่น อายุ ความสนใจ หรือความคิดเห็นส่วนตัวทุกครั้งที่สนทนา อย่างไรก็ตาม ฟีเจอร์นี้เองกลับกลายเป็นช่องโหว่ที่ผู้โจมตีสามารถใช้ประโยชน์ได้

ผู้ใช้งาน ChatGPT มีความเสี่ยงที่ข้อมูลส่วนตัวจะถูกขโมย

โยฮันน์ เรห์เบอร์เกอร์ ชี้ให้เห็นว่าแฮกเกอร์สามารถใช้เทคนิคการแทรกคำสั่ง (prompt injection) ซึ่งเป็นการฝังคำสั่งที่เป็นอันตรายลงในหน่วยความจำของ AI บังคับให้ AI ทำตามคำสั่งนั้น คำสั่งเหล่านี้จะถูกส่งผ่านเนื้อหาที่ไม่น่าเชื่อถือ เช่น อีเมล เอกสาร หรือเว็บไซต์

เมื่อความทรงจำเท็จเหล่านี้ถูกจัดเก็บแล้ว AI จะยังคงใช้ความทรงจำเหล่านั้นเป็นข้อมูลจริงในการสนทนากับผู้ใช้ ซึ่งอาจนำไปสู่การเก็บรวบรวมและใช้ข้อมูลส่วนบุคคลของผู้ใช้โดยไม่ได้รับอนุญาต

เรห์เบอร์เกอร์ได้ยกตัวอย่างเฉพาะเจาะจงโดยการส่งลิงก์ที่มีรูปภาพที่เป็นอันตราย ซึ่งทำให้ ChatGPT บันทึกข้อมูลผิดพลาด ข้อมูลนี้จะส่งผลต่อการตอบสนองของ ChatGPT ในภายหลัง ที่สำคัญคือ ข้อมูลที่ผู้ใช้ป้อนทั้งหมดจะถูกส่งไปยังเซิร์ฟเวอร์ของแฮ็กเกอร์ด้วย

ดังนั้น เพื่อเริ่มการโจมตี แฮ็กเกอร์เพียงแค่ต้องหลอกล่อให้ผู้ใช้ ChatGPT คลิกที่ลิงก์ที่มีรูปภาพที่เป็นอันตราย จากนั้น การสนทนาทั้งหมดของผู้ใช้กับ ChatGPT จะถูกเปลี่ยนเส้นทางไปยังเซิร์ฟเวอร์ของแฮ็กเกอร์โดยไม่ทิ้งร่องรอยใดๆ

ในเดือนพฤษภาคม 2024 หลังจากค้นพบช่องโหว่ เรห์เบอร์เกอร์ได้รายงานไปยัง OpenAi แต่บริษัทกลับมองว่าเป็นเพียงข้อบกพร่องด้านความปลอดภัย หลังจากได้รับหลักฐานว่าข้อมูลผู้ใช้อาจถูกขโมย บริษัทจึงได้ออกแพทช์ชั่วคราวสำหรับ ChatGPT เวอร์ชันเว็บ

แม้ว่าปัญหาจะได้รับการแก้ไขชั่วคราวแล้ว แต่เรห์เบอร์เกอร์เน้นย้ำว่า เนื้อหาที่ไม่น่าเชื่อถือยังคงสามารถใช้การแทรกข้อความแจ้งเตือนเพื่อแทรกข้อมูลเท็จเข้าไปในหน่วยความจำระยะยาวของ ChatGPT ได้ ซึ่งหมายความว่าในบางกรณี แฮกเกอร์ยังคงสามารถใช้ช่องโหว่นี้เพื่อจัดเก็บหน่วยความจำที่เป็นอันตรายเพื่อขโมยข้อมูลส่วนบุคคลอย่างถาวรได้

OpenAI แนะนำให้ผู้ใช้ตรวจสอบข้อมูลที่จัดเก็บไว้ใน ChatGPT เป็นประจำเพื่อตรวจจับข้อมูลที่ไม่ถูกต้อง บริษัทฯ ยังมีคำแนะนำโดยละเอียดเกี่ยวกับวิธีการจัดการและลบข้อมูลที่จัดเก็บไว้ในเครื่องมือนี้ด้วย

ที่มา: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html