ความเสี่ยงจากผู้ช่วย AI "ผู้รอบรู้" ของ Moltbot

ผู้ช่วย AI แบบโอเพนซอร์สกำลังได้รับความสนใจอย่างรวดเร็วในแวดวงเทคโนโลยี เนื่องจากความสามารถในการจัดการงานต่างๆ ได้โดยอัตโนมัติโดยไม่ต้องมีการแทรกแซงจากมนุษย์

มอลต์บอทโดดเด่นในด้านความสามารถในการทำงานที่ผู้ใช้มอบหมายโดยอัตโนมัติ ภาพ: มอลต์บอท

Moltbot ซึ่งเดิมชื่อ Clawdbot คือเอเจนต์ AI ที่ทำงานบนอุปกรณ์หลายเครื่อง ผู้ใช้สามารถสั่งการให้ Moltbot ทำงานแทนได้ผ่านแพลตฟอร์มการส่งข้อความยอดนิยม เช่น WhatsApp, Telegram, Signal, Discord หรือ iMessage บนโซเชียลมีเดีย ผู้คนจำนวนมากได้แชร์วิธีการใช้ Moltbot ในการจัดการการแจ้งเตือน บันทึกข้อมูลสุขภาพ หรือแม้กระทั่งสื่อสารกับลูกค้า

เฟเดริโก วิติชชี บรรณาธิการของ MacStories กล่าวว่าเขาติดตั้ง Moltbot บน Mac Mini M4 และเปลี่ยนมันให้เป็นเครื่องมือสำหรับสร้างบทสรุปเสียงรายวันโดยอิงจากข้อมูลจากแอปพลิเคชันปฏิทิน Notion และ Todoist ในอีกกรณีหนึ่ง ผู้ใช้รายหนึ่งได้แชร์ว่า Moltbot สามารถสร้างภาพเคลื่อนไหวแสดงอารมณ์ใบหน้าและเพิ่มเอฟเฟกต์ "หลับ" ได้โดยอัตโนมัติโดยไม่ต้องมีการแทรกแซงด้วยตนเอง

ในแง่ของการทำงาน Moltbot จะส่งต่อคำขอของผู้ใช้ไปยังผู้ให้บริการ AI ที่พวกเขาเลือก เช่น OpenAI, Anthropic หรือ Google เช่นเดียวกับผู้ช่วยอื่นๆ มันสามารถกรอกแบบฟอร์มในเบราว์เซอร์ ส่งอีเมล และจัดการปฏิทินได้โดยตรง อย่างไรก็ตาม จากความคิดเห็นของผู้ใช้บางราย Moltbot ทำงานเหล่านี้ได้อย่างมีประสิทธิภาพและยืดหยุ่นกว่า

อย่างไรก็ตาม วิธีนี้จำเป็นต้องให้สิทธิ์การเข้าถึงระบบคอมพิวเตอร์อย่างลึกซึ้ง รวมถึงการอ่าน เขียนไฟล์ และเรียกใช้คำสั่งต่างๆ การรวมสิทธิ์ผู้ดูแลระบบอุปกรณ์เข้ากับข้อมูลประจำตัวการเข้าสู่ระบบแอปพลิเคชันอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยอย่างร้ายแรงหากไม่ได้รับการควบคุมอย่างเข้มงวด

เรเชล โทบัค ซีอีโอของ SocialProof Security เตือนว่า หากเอเจนต์ AI อย่าง Moltbot ได้รับสิทธิ์ผู้ดูแลระบบบนคอมพิวเตอร์ ผู้โจมตีอาจพยายามควบคุมระบบผ่านข้อความเพียงข้อความเดียว ตามที่เธอระบุ เอเจนต์ AI อัตโนมัติสามารถถูกโจมตีได้ผ่านการโจมตีแบบฉีดข้อความ (Prompt Injection Attack) ซึ่งเป็นช่องโหว่ที่ถูกระบุแล้วแต่ยังไม่มีวิธีแก้ไขที่แน่ชัด การโจมตีแบบฉีดข้อความเกิดขึ้นเมื่อผู้โจมตีทำการเปลี่ยนแปลง AI ด้วยคำสั่งที่เป็นอันตราย ซึ่งส่งโดยตรงหรือซ่อนอยู่ภายในไฟล์ อีเมล หรือเว็บไซต์ที่ AI ประมวลผล

Moltbot อาจก่อให้เกิดความเสี่ยงด้านความปลอดภัย ภาพ: Moltbot

ความกังวลเหล่านี้ยิ่งทวีความรุนแรงขึ้นเมื่อเจมีสัน โอ'ไรลีย์ ผู้เชี่ยวชาญด้านความปลอดภัยและผู้ก่อตั้งบริษัทด้านความปลอดภัยทางไซเบอร์ Dvuln ค้นพบว่าข้อความส่วนตัว ข้อมูลการเข้าสู่ระบบบัญชี และคีย์ API ที่เกี่ยวข้องกับ Moltbot บางส่วนได้รั่วไหลออกไปทางออนไลน์

ดังนั้น ข้อมูลนี้จึงอาจถูกแฮกเกอร์นำไปใช้เพื่อขโมยข้อมูลหรือทำการโจมตีอื่นๆ ได้ เขากล่าวว่าเขาได้รายงานปัญหาดังกล่าวไปยังทีมพัฒนา Moltbot แล้ว และได้มีการออกแพทช์แก้ไขแล้ว ตามรายงานของ The Register

ที่มา: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html