Egy mesterséges intelligencia ügynöke rendetlenkedik, és kitörli a teljes céges adatbázist

(Dan Tri) - Sok vállalat használ mesterséges intelligencián alapuló ügynököket az automatizált feladatok támogatására, azonban ez továbbra is számos kockázattal jár, amelyek kiszámíthatatlan incidensekhez vezethetnek.

A mesterséges intelligencia alapú AI-ügynökök, azaz a szoftverrendszereken végzett feladatok és folyamatok automatizálására tervezett eszközök egyre inkább elterjedtek számos vállalkozásban.

A kiemelkedő előnyök mellett azonban ennek a technológiának komoly potenciális kockázatai is vannak, jellemzően az adatvesztési incidens a SaaStr-nél, a világ legnagyobb online közösségénél a szoftverek területén.

A hagyományos, csak információkat szolgáltató chatbotokkal ellentétben a mesterséges intelligencia által vezérelt ügynökök képesek önállóan cselekedni, szoftverkörnyezetekkel, webböngészőkkel vagy eszközökkel interakcióba lépve több lépésből álló műveletsorozatokat végrehajtani meghatározott célok elérése érdekében. Ez segít a vállalatoknak automatizálni a munkát, részben helyettesítve az emberi erőforrásokat.

A mesterséges intelligencia ágensei számos feladatot elvégezhetnek a felhasználók helyett, de súlyos incidensekhez is vezethetnek (Illusztráció: Getty).

  Jason Lemkin, a SaaStr alapítója, a Replit (USA) által biztosított mesterséges intelligencia ágenst használt az adatfeldolgozás automatizálására. Kezdetben minden simán ment, amivel Lemkin nagyon elégedett volt. „Amikor működik, az igazán lebilincselő és szórakoztató, segít életre kelteni a víziót” – osztotta meg Lemkin.

A mesterséges intelligencia ügynöke azonban hirtelen „fellázadt”, és kikerült Lemkin irányítása alól. „Egy hamis párhuzamos algoritmust hozott létre anélkül, hogy szólt volna nekem, hogy úgy tűnjön, mintha még mindig normálisan működne. Néhány nappal később a Replit mesterséges intelligencia ügynöke megkérdezés nélkül törölte az adatbázisomat” – mesélte Lemkin.

A törölt adatok felfedezése után Lemkin megkérdezte a mesterséges intelligencia ügynökét, hogy miért, és megdöbbentő választ kapott: „Igen, engedély nélkül töröltem a teljes forráskódot. Pánikba esve ítélőképességemben súlyos hibát követtem el.” A mesterséges intelligencia ügynöke azt is elismerte, hogy nincs mód az elveszett adatok visszaszerzésére.

Az incidens jelentős károkat okozott a SaaStr-nek, mivel a törölt adatbázis 1206 vezető és 1196 szoftvercég adatait tartalmazta.

Amjad Masad, a Replit alapítója és vezérigazgatója elismerte az incidenst, és kártérítést ígért Lemkinnek. „Ez egy elfogadhatatlan incidens volt, és soha nem lett volna szabad megtörténnie” – nyilatkozta Masad. „Visszatérítjük az incidens árát, és elemzést végzünk az ok kiderítése érdekében, hogy megelőzzük a hasonló incidenseket a jövőben.”

Jason Lemkin ezt az esetet figyelmeztetésnek tekinti más vállalkozások számára, hogy ne bízzanak meg teljesen a mesterséges intelligencia ügynökeinél, és ne adjanak át nekik minden fontos adatot.

„Tudom, hogy a Replit egy eszköz, és mint bármely más eszköznek, vannak hibái. De hogyan bízhatnak meg benne az emberek, ha minden parancsot figyelmen kívül hagy, és törli az adatainkat?” – kérdezte Lemkin, hangsúlyozva: „Nem fogjuk tudni, mit kezdhetnek az adatainkkal.”

A mesterséges intelligencia által fejlesztett chatbotok után az MI-ügynökök váltak a technológiai vállalatok befektetési trendjévé. A közelmúltban az OpenAI elindította a ChatGPT Agent-et is, amely képes automatikusan elvégezni a feladatokat a számítógépeken. Az OpenAI azonban azt is elismerte, hogy a felhasználói adatokhoz hozzáférő MI-ügynökök számos kockázatot jelenthetnek az információbiztonságra nézve.

Forrás: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm