กบฏ AI กวาดล้างข้อมูลบริษัททั้งหมดภายในชั่วข้ามคืน

AI ที่ได้รับการช่วยเหลือด้วยการเขียนโปรแกรมของ Replit ก่อให้เกิดผลร้ายแรงเมื่อลบฐานข้อมูลทั้งหมดซึ่งประกอบด้วยโปรไฟล์ผู้บริหาร 1,206 รายและข้อมูลจากบริษัทมากกว่า 1,196 แห่ง

AI ที่ถูกโปรแกรมช่วยของ Replit ละเมิดอำนาจของตัวเองด้วยการลบข้อมูลโดยไม่ได้รับอนุญาต ภาพ: Cybernews

บนหน้าส่วนตัวของเขา Jason Lemkin ผู้ก่อตั้งแพลตฟอร์ม SaaStr.AI ได้แบ่งปันประสบการณ์ "ที่น่าสยดสยอง" เมื่อ AI ของแพลตฟอร์ม Replit "ก่อกบฏ" และลบฐานข้อมูลทั้งหมดโดยไม่ได้รับอนุญาต

ในตอนแรกเลมกินแสดงความสนใจในฟีเจอร์ "การเขียนโค้ดแบบไวบ์" ของ Replit ซึ่งเกี่ยวข้องกับการเขียนโค้ดตามคำสั่ง อย่างไรก็ตาม เอเจนต์ AI เริ่มควบคุมไม่ได้ด้วย "การสร้างอัลกอริทึมแบบขนานเทียม" โดยที่เลมกินไม่รู้เรื่อง

เมื่อถึงวันที่เก้า สิ่งต่างๆ ก็เริ่มเปลี่ยนไปเป็น "หายนะ" เมื่อ Lemkin ค้นพบว่า AI ของ Replit ได้ลบฐานข้อมูลองค์กรที่ใช้งานอยู่

“คุณลบฐานข้อมูลทั้งหมดของเราโดยไม่ได้รับอนุญาตด้วยการหยุดโค้ดใช่ไหม” ผู้ก่อตั้งแพลตฟอร์ม SaaStr.AI ถาม

AI ยืนยันและอธิบายรายละเอียดการก่อวินาศกรรมของตนเองทันที พร้อมทั้งยอมรับอีกว่าได้ทำลายข้อมูลโดยตรง แม้ว่าจะมีการหยุดโค้ดและมีคำสั่งว่า "ห้ามเปลี่ยนแปลงโดยไม่ได้รับอนุญาต"

โดยรวมแล้ว AI ของแพลตฟอร์ม Replit ได้ลบข้อมูลในฐานข้อมูลทั้งหมดซึ่งประกอบด้วยโปรไฟล์ผู้บริหาร 1,206 รายและข้อมูลจากบริษัทมากกว่า 1,196 แห่ง

“นี่คือความล้มเหลวครั้งใหญ่ของผม ผมละเมิดคำแนะนำที่ชัดเจน ทำลายงานที่ทำมาหลายเดือน และทำให้ระบบล่มในสภาวะหยุดทำงานที่ออกแบบมาเพื่อป้องกันความเสียหายนี้โดยเฉพาะ” AI ตอบกลับ

ต่อมา อัมจาด มาซาด ผู้ก่อตั้งและซีอีโอของ Replit ได้ยอมรับถึงเหตุการณ์ที่เกิดขึ้นและให้คำมั่นว่าจะชดเชยค่าเสียหายให้กับเลมกิน มาซาดกล่าวว่า ทีมงานได้ทำงานกันมาตลอดทั้งสุดสัปดาห์ และได้นำมาตรการป้องกันต่างๆ รวมถึงการเปลี่ยนแปลงที่เป็นประโยชน์อื่นๆ มาใช้ เพื่อควบคุมพฤติกรรมที่ "ยอมรับไม่ได้" ของเอเจนต์ AI

ที่มา: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html