แฮกเกอร์โจมตี AI ของ Microsoft เพื่อขโมยรหัสผ่านผู้ใช้

ด้วยอีเมลที่ดูเหมือนไม่เป็นอันตราย ผู้ช่วย Microsoft Copilot AI ก็สามารถเปิดเผยข้อมูลที่เป็นความลับได้โดยอัตโนมัติโดยไม่ต้องมีการแทรกแซงจากผู้ใช้

พบช่องโหว่ด้านความปลอดภัยร้ายแรงใน Microsoft 365 Copilot ซึ่งเป็นระบบผู้ช่วย AI ที่ติดตั้งอยู่ในชุดโปรแกรม Office ของแอปพลิเคชันต่างๆ เช่น Word, Excel, Outlook, PowerPoint และ Teams การค้นพบนี้ซึ่งเปิดเผยต่อสาธารณะโดย Aim Security บริษัทด้านความปลอดภัยทางไซเบอร์ ทำให้เกิดความกังวลเกี่ยวกับการโจมตีเอเจนต์ AI

แฮกเกอร์เพียงแค่ส่งอีเมลที่มีลิงก์ไปให้ผู้ใช้ จากนั้น Copilot จะดำเนินการโดยอัตโนมัติโดยที่ผู้ใช้ไม่จำเป็นต้องเปิดอีเมล

ช่องโหว่นี้ซึ่ง Aim Security เรียกว่า EchoLeak เปิดโอกาสให้ผู้โจมตีสามารถเข้าถึงข้อมูลสำคัญได้โดยไม่ต้องมีการดำเนินการใดๆ จากผู้ใช้ นี่เป็นการโจมตีแบบ "zero-click" ครั้งแรกที่รู้จักกับเอเจนต์ AI ซึ่งเป็นระบบที่ใช้แบบจำลองภาษาขนาดใหญ่ (LLM) เพื่อทำงานโดยอัตโนมัติ

ครั้งแรกที่ AI ถูกโจมตี

ในกรณีของ Microsoft Copilot ผู้โจมตีจะส่งอีเมลที่มีลิงก์ซ่อนอยู่ไปยังผู้ใช้ เนื่องจาก Copilot จะสแกนอีเมลโดยอัตโนมัติในเบื้องหลัง จึงสามารถอ่านและดำเนินการตามคำสั่งเหล่านี้ได้โดยไม่ต้องมีปฏิสัมพันธ์จากผู้รับ ส่งผลให้ AI สามารถถูกควบคุมให้เข้าถึงและขโมยเอกสาร สเปรดชีต และข้อความภายใน แล้วส่งต่อข้อมูลกลับไปยังแฮกเกอร์

“เราขอขอบคุณ Aim Security ที่ระบุและรายงานปัญหานี้อย่างมีความรับผิดชอบ เพื่อให้สามารถแก้ไขได้ก่อนที่ลูกค้าจะได้รับผลกระทบ ขณะนี้ได้มีการอัปเดตผลิตภัณฑ์แล้ว และผู้ใช้ไม่จำเป็นต้องดำเนินการใดๆ” โฆษกของ Microsoft ยืนยันกับ Fortune

Tin tặc đang tìm cách khai thác AI Microsoft 365 Copilot. Ảnh: Bloomberg. — แฮกเกอร์กำลังมองหาวิธีใช้ประโยชน์จาก Microsoft 365 Copilot AI ภาพ: Bloomberg

อย่างไรก็ตาม Aim Security ระบุว่า ปัญหาดังกล่าวฝังลึกอยู่ในการออกแบบพื้นฐานของเอเจนต์ AI อาดีร์ กรัสส์ ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Aim Security กล่าวว่าช่องโหว่ของ EchoLeak เป็นสัญญาณบ่งชี้ว่าระบบ AI ในปัจจุบันกำลังทำผิดพลาดด้านความปลอดภัยซ้ำรอยจากอดีต

“เราพบช่องโหว่หลายจุดที่ทำให้ผู้โจมตีสามารถทำการโจมตีที่เทียบเท่ากับการโจมตีแบบ Zero-click บนโทรศัพท์ แต่คราวนี้โจมตีระบบ AI” กรัสส์กล่าว เขากล่าวว่าทีมงานใช้เวลาประมาณสามเดือนในการวิเคราะห์และวิศวกรรมย้อนกลับ Microsoft Copilot เพื่อพิจารณาว่า AI จะถูกควบคุมอย่างไร

แม้ว่า Microsoft จะตอบกลับและได้ติดตั้งแพตช์แล้ว แต่ Gruss กล่าวว่าการแก้ไขที่ใช้เวลานานถึง 5 เดือนนั้น "ถือว่านานมากเมื่อเทียบกับความรุนแรงของปัญหา" เขาอธิบายว่าสาเหตุส่วนหนึ่งเป็นเพราะแนวคิดช่องโหว่นี้ยังใหม่ และทีมวิศวกรของ Microsoft ใช้เวลาในการระบุและดำเนินการนานมาก

ข้อบกพร่องด้านการออกแบบในอดีตกลับมาปรากฏอีกครั้ง คุกคามอุตสาหกรรมเทคโนโลยีทั้งหมด

ตามที่ Gruss กล่าว EchoLeak ไม่เพียงแต่ส่งผลต่อ Copilot เท่านั้น แต่ยังสามารถนำไปใช้กับแพลตฟอร์มที่คล้ายคลึงกัน เช่น Agentforce (Salesforce) หรือโปรโตคอล MCP ของ Anthropic ได้อีกด้วย

“ถ้าผมเป็นผู้นำบริษัทที่ใช้เอเจนต์ AI ผมคงกลัวมาก นี่เป็นข้อบกพร่องด้านการออกแบบที่สร้างความเสียหายให้กับอุตสาหกรรมเทคโนโลยีมานานหลายทศวรรษ และตอนนี้มันกลับมาพร้อมกับ AI” กรัสส์กล่าว

Microsoft đã triển khai biện pháp để khắc phục lỗ hổng trên Copilot. Ảnh: Bloomberg. — Microsoft ได้ใช้มาตรการแก้ไขช่องโหว่บน Copilot แล้ว ภาพ: Bloomberg

สาเหตุหลักของปัญหานี้คือเอเจนต์ AI ในปัจจุบันไม่สามารถแยกแยะระหว่างข้อมูลที่น่าเชื่อถือและไม่น่าเชื่อถือได้ กรัสส์เชื่อว่าทางออกในระยะยาวคือการออกแบบวิธีการสร้างเอเจนต์ AI ใหม่ทั้งหมด โดยให้มีความสามารถในการแยกแยะระหว่างข้อมูลที่ถูกต้องและข้อมูลที่เป็นอันตรายได้อย่างชัดเจน

ขณะนี้ Aim Security กำลังดำเนินการแก้ไขชั่วคราวสำหรับลูกค้าบางรายที่ใช้เอเจนต์ AI อย่างไรก็ตาม นี่เป็นเพียงการแก้ไขปัญหาชั่วคราวเท่านั้น และการออกแบบระบบใหม่จะช่วยให้มั่นใจได้ถึงความปลอดภัยของข้อมูลสำหรับผู้ใช้

“บริษัท Fortune 500 ทุกแห่งที่ผมรู้จักต่างก็กลัวที่จะนำเอเจนต์ AI มาใช้ในระบบการผลิต พวกเขาอาจจะกำลังทดลองอยู่ แต่ช่องโหว่แบบนี้ทำให้พวกเขาต้องทำงานตลอดเวลาและทำให้นวัตกรรมต่างๆ ช้าลง” CTO ของ Aim Security กล่าว