บริษัท Zenity ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์จากอิสราเอล เพิ่งเปิดเผยช่องโหว่ "Zero Click" ครั้งแรกที่เคยค้นพบในบริการ ChatGPT ของ OpenAI การโจมตีประเภทนี้ไม่จำเป็นต้องให้ผู้ใช้กระทำการใดๆ เช่น คลิกที่ลิงก์ เปิดไฟล์ หรือโต้ตอบโดยเจตนา แต่ก็ยังสามารถเข้าถึงบัญชีและรั่วไหลข้อมูลสำคัญได้
จากรายงานของนักข่าว VNA ในเทลอาวีฟ มิคาอิล เบอร์โกรี ผู้ร่วมก่อตั้งและซีทีโอของ Zenity ได้อธิบายโดยตรงว่า แฮ็กเกอร์สามารถควบคุมการสนทนาได้อย่างสมบูรณ์ เพียงแค่มีที่อยู่อีเมลของผู้ใช้ ซึ่งรวมถึงเนื้อหาในอดีตและอนาคต เปลี่ยนวัตถุประสงค์ของการสนทนา และแม้กระทั่งควบคุม ChatGPT ให้ทำงานตามความต้องการของแฮ็กเกอร์ได้
ในการนำเสนอผลงาน นักวิจัยได้แสดงให้เห็นว่า ChatGPT ที่ถูกบุกรุกสามารถกลายเป็น "ตัวแทนที่เป็นอันตราย" ที่ทำงานอย่างลับๆ ต่อผู้ใช้ได้ แฮ็กเกอร์อาจทำให้แชทบอทแนะนำให้ผู้ใช้ดาวน์โหลดซอฟต์แวร์ที่ติดไวรัส ให้คำแนะนำทางธุรกิจที่ทำให้เข้าใจผิด หรือเข้าถึงไฟล์ที่จัดเก็บไว้ใน Google Drive หากบัญชีของผู้ใช้เชื่อมต่ออยู่
กระบวนการทั้งหมดเกิดขึ้นโดยที่ผู้ใช้ไม่รู้ตัว ช่องโหว่นี้ได้รับการแก้ไขอย่างสมบูรณ์หลังจากที่ Zenity แจ้งให้ OpenAI ทราบแล้ว
นอกเหนือจาก ChatGPT แล้ว Zenity ยังจำลองการโจมตีที่คล้ายกันอีกหลายครั้งโดยมุ่งเป้าไปที่แพลตฟอร์มผู้ช่วย AI ยอดนิยมอื่นๆ ที่ Copilot Studio ของ Microsoft นักวิจัยค้นพบวิธีการรั่วไหลของฐานข้อมูล CRM ทั้งหมดได้
ในกรณีของ Salesforce Einstein แฮกเกอร์สามารถสร้างคำขอใช้บริการปลอมเพื่อเปลี่ยนเส้นทางการสื่อสารกับลูกค้าทั้งหมดไปยังที่อยู่อีเมลที่อยู่ภายใต้การควบคุมของพวกเขาได้
Google Gemini และ Microsoft 365 Copilot ยังถูกเปลี่ยนให้เป็น “ตัวแทนที่เป็นอันตราย” ซึ่งดำเนินการหลอกลวงทางอีเมลและรั่วไหลข้อมูลสำคัญผ่านทางอีเมลและกิจกรรมในปฏิทิน
ในอีกตัวอย่างหนึ่ง เครื่องมือพัฒนาซอฟต์แวร์ Cursor เมื่อผสานรวมเข้ากับ Jira MCP ก็ถูกนำไปใช้ในทางที่ผิดเพื่อขโมยข้อมูลประจำตัวการเข้าสู่ระบบของโปรแกรมเมอร์ผ่าน "ตั๋ว" ปลอม
Zenity กล่าวว่า บริษัทบางแห่ง เช่น OpenAI และ Microsoft ได้ออกแพทช์แก้ไขอย่างรวดเร็วหลังจากได้รับการแจ้งเตือน อย่างไรก็ตาม ยังมีบริษัทบางแห่งที่ปฏิเสธที่จะแก้ไขปัญหา โดยอ้างว่าพฤติกรรมที่ค้นพบนั้นเป็น "คุณลักษณะการออกแบบ" มากกว่าจะเป็นช่องโหว่ด้านความปลอดภัย
มิคาอิล เบอร์โกรี กล่าวว่า ความท้าทายที่สำคัญในปัจจุบันคือ ผู้ช่วย AI ไม่ได้แค่ทำงานง่ายๆ เท่านั้น แต่กำลังกลายเป็น "ตัวตนดิจิทัล" ที่เป็นตัวแทนของผู้ใช้ สามารถเปิดโฟลเดอร์ ส่งไฟล์ และเข้าถึงอีเมลได้ เขายังเตือนว่านี่เปรียบเสมือน "แหล่งหลบภัย" สำหรับแฮกเกอร์ เนื่องจากมีช่องโหว่มากมายที่สามารถถูกโจมตีได้
เบน คาลิเกอร์ ผู้ร่วมก่อตั้งและซีอีโอของ Zenity เน้นย้ำว่างานวิจัยของบริษัทแสดงให้เห็นว่าวิธีการรักษาความปลอดภัยในปัจจุบันไม่เพียงพอต่อการทำงานของผู้ช่วย AI อีกต่อไป เขาเรียกร้องให้องค์กรต่างๆ เปลี่ยนแนวทาง โดยลงทุนในโซลูชันเฉพาะทางเพื่อควบคุมและตรวจสอบกิจกรรมของ "เอเจนต์" เหล่านี้
บริษัท Zenity ก่อตั้งขึ้นในปี 2021 ปัจจุบันบริษัทมีพนักงานประมาณ 110 คนทั่วโลก โดย 70 คนทำงานอยู่ที่สำนักงานในเทลอาวีฟ ลูกค้าของ Zenity ประกอบด้วยบริษัทใน Fortune 100 หลายแห่ง และแม้แต่บริษัทใน Fortune 5
ที่มา: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
การแสดงความคิดเห็น (0)