ช่องโหว่นี้ทำให้ผู้โจมตีสามารถแทรกคำสั่งที่เป็นอันตรายเข้าไปในหน่วยความจำของ AI ได้โดยตรง เปลี่ยนคุณสมบัติที่มีประโยชน์ให้กลายเป็นอาวุธถาวรสำหรับการเรียกใช้โค้ดตามอำเภอใจ (ภาพประกอบ: ST)
รายงานจาก LayerX Security ระบุว่า การโจมตีครั้งนี้ใช้ประโยชน์จากช่องโหว่ Cross-Site Request Forgery (CSRF) เพื่อแทรกคำสั่งที่เป็นอันตรายเข้าไปในหน่วยความจำถาวรของ ChatGPT
ฟีเจอร์ "หน่วยความจำ" ซึ่งเดิมออกแบบมาเพื่อให้ AI จดจำรายละเอียดที่เป็นประโยชน์ เช่น ชื่อผู้ใช้และการตั้งค่าเพื่อการตอบกลับส่วนบุคคล ตอนนี้สามารถ "ถูกปิดใช้งาน" ได้แล้ว
เมื่อหน่วยความจำติดมัลแวร์แล้ว คำสั่งเหล่านี้จะคงอยู่ถาวร เว้นแต่ผู้ใช้จะลบออกด้วยตนเองผ่านการตั้งค่า และสามารถเรียกใช้งานได้ในหลายอุปกรณ์และหลายเซสชัน
"สิ่งที่ทำให้ช่องโหว่นี้อันตรายเป็นพิเศษคือ มันมุ่งเป้าไปที่หน่วยความจำถาวรของ AI ไม่ใช่แค่เซสชันของเบราว์เซอร์" มิเชล เลวี ผู้อำนวยการฝ่ายวิจัยความปลอดภัยของ LayerX Security กล่าว
เลวีอธิบายว่า "พูดง่ายๆ ก็คือ ผู้โจมตีใช้กลอุบายเพื่อ 'หลอก' AI บังคับให้มันเขียนคำสั่งที่เป็นอันตรายลงในหน่วยความจำ ส่วนที่อันตรายที่สุดคือ คำสั่งนี้จะคงอยู่ใน AI อย่างถาวร แม้ว่าผู้ใช้จะเปลี่ยนคอมพิวเตอร์ ออกจากระบบแล้วเข้าสู่ระบบใหม่ หรือแม้แต่ใช้เบราว์เซอร์อื่นก็ตาม"
ต่อมา เมื่อผู้ใช้ทำการร้องขอตามปกติ พวกเขาอาจเผลอไปเปิดใช้งานมัลแวร์โดยไม่ตั้งใจ ส่งผลให้แฮกเกอร์สามารถรันโค้ดอย่างลับๆ ขโมยข้อมูล หรือควบคุมระบบได้มากขึ้น”
สถานการณ์การโจมตีที่อธิบายไว้นั้นค่อนข้างง่าย: ขั้นแรก ผู้ใช้ล็อกอินเข้าสู่ ChatGPT Atlas จากนั้นถูกหลอกให้คลิกลิงก์ที่เป็นอันตราย เว็บไซต์ที่เป็นอันตรายจะแอบส่งคำขอ CSRF โดยแอบแทรกคำสั่งที่เป็นอันตรายเข้าไปในหน่วยความจำ ChatGPT ของเหยื่อโดยไม่ให้ใครเห็น
สุดท้ายนี้ เมื่อผู้ใช้ส่งคำถามที่ถูกต้องตามกฎหมายทุกประการ เช่น การขอให้ AI เขียนโค้ด ความทรงจำที่ติดไวรัสก็จะถูกกระตุ้นขึ้นมา
LayerX ชี้ให้เห็นว่าปัญหาดังกล่าวทวีความรุนแรงขึ้นเนื่องจาก ChatGPT Atlas ขาดระบบควบคุมการป้องกันฟิชชิงที่มีประสิทธิภาพ
ในการทดสอบที่เกี่ยวข้องกับช่องโหว่และเว็บไซต์ฟิชชิ่งกว่า 100 แห่ง Atlas สามารถบล็อกเว็บไซต์ที่เป็นอันตรายได้เพียง 5.8% เท่านั้น
ตัวเลขนี้ถือว่าน้อยเกินไปเมื่อเทียบกับ Google Chrome (47%) หรือ Microsoft Edge (53%) ทำให้ผู้ใช้ Atlas มีความเสี่ยงต่อการโจมตี "สูงกว่าถึง 90%" เมื่อเทียบกับเบราว์เซอร์ทั่วไป
การค้นพบนี้เกิดขึ้นหลังจากช่องโหว่การแทรกมัลแวร์อย่างรวดเร็วอีกช่องโหว่หนึ่งที่ NeuralTrust เคยแสดงให้เห็นก่อนหน้านี้ ซึ่งแสดงให้เห็นว่าเบราว์เซอร์ AI กำลังกลายเป็นแนวรบใหม่ในการโจมตี
OpenAI เปิดตัวเว็บเบราว์เซอร์ ChatGPT Atlas เมื่อต้นสัปดาห์ที่ผ่านมา และแน่นอนว่า OpenAI ได้ผสานรวมเอ็นจิ้นปัญญาประดิษฐ์ ChatGPT เข้ากับเบราว์เซอร์นี้ เพื่อมอบการสนับสนุนที่ดีขึ้นสำหรับผู้ใช้ในการท่องเว็บ
เมื่อใดก็ตามที่ผู้ใช้คลิกที่ผลการค้นหาใน ChatGPT Atlas กล่องโต้ตอบของ ChatGPT จะปรากฏขึ้นถัดจากหน้าต่างเว็บเพจ ทำให้พวกเขาสามารถถามคำถามที่เกี่ยวข้องกับเนื้อหาที่กำลังดูอยู่ ซึ่งช่วยประหยัดเวลาในการอ่าน
นอกจากนี้ ChatGPT ยังสามารถสรุปเนื้อหาเว็บไซต์ แก้ไขข้อความขณะเขียนอีเมล หรือแนะนำวิธีการเขียนใหม่เพื่อให้เหมาะสมกับบริบทมากขึ้นได้อีกด้วย
แหล่งที่มา: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
การแสดงความคิดเห็น (0)