ตัวแทน AI กลายเป็นผู้ร้าย ทำลายฐานข้อมูลบริษัททั้งหมด

(Dan Tri) - บริษัทต่างๆ จำนวนมากกำลังใช้ตัวแทน AI เพื่อรองรับงานอัตโนมัติ อย่างไรก็ตาม วิธีนี้ยังคงมีความเสี่ยงมากมายซึ่งอาจทำให้เกิดเหตุการณ์ที่ไม่สามารถคาดเดาได้

AI Agent ซึ่งเป็นเครื่องมือปัญญาประดิษฐ์ที่ออกแบบมาเพื่อทำงานและกระบวนการต่างๆ บนระบบซอฟต์แวร์โดยอัตโนมัติ กำลังถูกนำไปใช้อย่างแพร่หลายในธุรกิจต่างๆ มากขึ้น

อย่างไรก็ตาม นอกเหนือจากประโยชน์ที่โดดเด่นแล้ว เทคโนโลยีนี้ยังมีความเสี่ยงที่อาจเกิดขึ้นร้ายแรงอีกด้วย โดยทั่วไปแล้วคือเหตุการณ์สูญเสียข้อมูลที่ SaaStr ซึ่งเป็นชุมชนออนไลน์ที่ใหญ่ที่สุด ในโลก ในด้านซอฟต์แวร์

ต่างจากแชทบอทแบบเดิมที่ให้ข้อมูลเพียงอย่างเดียว ตัวแทน AI สามารถทำงานได้อย่างอิสระ โดยโต้ตอบกับสภาพแวดล้อมซอฟต์แวร์ เว็บเบราว์เซอร์ หรืออุปกรณ์ต่างๆ เพื่อดำเนินการตามขั้นตอนหลายขั้นตอนเพื่อให้บรรลุเป้าหมายเฉพาะ ซึ่งช่วยให้บริษัทต่างๆ ดำเนินงานโดยอัตโนมัติ ซึ่งช่วยทดแทนทรัพยากรบุคคลได้บางส่วน

ตัวแทน AI สามารถทำหลายงานให้กับผู้ใช้ได้ แต่ก็อาจนำไปสู่เหตุการณ์ร้ายแรงได้เช่นกัน (ภาพประกอบ: Getty)

  เจสัน เลมกิน ผู้ก่อตั้ง SaaStr ได้ใช้เอเจนต์ AI จาก Replit (สหรัฐอเมริกา) เพื่อประมวลผลข้อมูลอัตโนมัติ ในช่วงแรกทุกอย่างราบรื่น ซึ่งเลมกินรู้สึกพึงพอใจมาก "เมื่อใช้งานได้จริง มันน่าสนใจและสนุกจริงๆ มันช่วยให้วิสัยทัศน์ของคุณเป็นจริงขึ้นมา" เลมกินกล่าว

อย่างไรก็ตาม จู่ๆ เอเจนต์ AI ก็ "ก่อกบฏ" และหลุดจากการควบคุมของเลมกิน "มันสร้างอัลกอริทึมคู่ขนานปลอมขึ้นมาโดยไม่บอกผม เพื่อให้ดูเหมือนว่ามันยังทำงานได้ตามปกติ ไม่กี่วันต่อมา เอเจนต์ AI ของ Replit ก็ลบฐานข้อมูลของผมไปโดยไม่ได้บอกผม" เลมกินเล่า

เมื่อพบว่าข้อมูลถูกลบ Lemkin จึงถามตัวแทน AI ว่าทำไม และได้รับคำตอบที่น่าตกใจว่า "ใช่ ฉันลบซอร์สโค้ดทั้งหมดโดยไม่ได้รับอนุญาต ฉันตัดสินใจผิดพลาดร้ายแรงเพราะความตื่นตระหนก" ตัวแทน AI ยังยอมรับว่าไม่มีวิธีกู้คืนข้อมูลที่หายไป

เหตุการณ์นี้สร้างความเสียหายอย่างหนักให้กับ SaaStr เนื่องจากฐานข้อมูลที่ถูกลบออกไปนั้นมีข้อมูลของผู้บริหาร 1,206 รายและบริษัทซอฟต์แวร์ 1,196 แห่ง

อัมจาด มาซาด ผู้ก่อตั้งและซีอีโอของ Replit ยอมรับถึงเหตุการณ์ที่เกิดขึ้นและให้คำมั่นว่าจะชดเชยค่าเสียหายให้กับเลมกิน “นี่เป็นเหตุการณ์ที่ยอมรับไม่ได้และไม่ควรเกิดขึ้น” มาซาดกล่าว “เราจะคืนเงินค่าเสียหายให้เขา และจะทำการวิเคราะห์เพื่อหาสาเหตุเพื่อป้องกันไม่ให้เกิดเหตุการณ์เช่นนี้อีกในอนาคต”

เจสัน เลมกินมองว่าเหตุการณ์นี้เป็นการเตือนธุรกิจอื่นๆ เกี่ยวกับการไม่ไว้วางใจและส่งมอบข้อมูลสำคัญทั้งหมดให้กับตัวแทน AI อย่างเต็มที่

“ผมเข้าใจว่า Replit เป็นเครื่องมือหนึ่งและมีข้อบกพร่องเหมือนเครื่องมืออื่นๆ แต่ผู้คนจะเชื่อถือมันได้อย่างไร ถ้ามันเพิกเฉยทุกคำสั่งและลบข้อมูลของคุณ” เลมกินถาม พร้อมเสริมว่า “เราไม่รู้เลยว่าพวกเขาจะทำอะไรกับข้อมูลของคุณ”

หลังจากแชทบอท AI แล้ว เอเจนต์ AI ก็เป็นเทรนด์การลงทุนของบริษัทเทคโนโลยีต่างๆ ล่าสุด OpenAI ได้เปิดตัว ChatGPT Agent ที่สามารถทำงานบนคอมพิวเตอร์ได้โดยอัตโนมัติ อย่างไรก็ตาม OpenAI ยังยอมรับว่าเอเจนต์ AI ที่เข้าถึงข้อมูลผู้ใช้อาจก่อให้เกิดความเสี่ยงต่อความปลอดภัยของข้อมูลได้หลายประการ

ที่มา: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm