Un agent de inteligență artificială se dezlănțuie și șterge întreaga bază de date a companiei

AI Agent, un instrument de inteligență artificială conceput pentru a automatiza sarcinile și procesele din sistemele software, este utilizat din ce în ce mai mult de multe companii.

Totuși, pe lângă beneficiile remarcabile, această tehnologie prezintă și riscuri potențiale serioase, de obicei incidentul de pierdere a datelor de la SaaStr, cea mai mare comunitate online din domeniul software-ului din lume .

Spre deosebire de chatboții tradiționali care oferă doar informații, agenții AI sunt capabili să acționeze independent, interacționând cu medii software, browsere web sau dispozitive pentru a efectua secvențe de acțiuni în mai mulți pași pentru a atinge obiective specifice. Acest lucru ajută companiile să automatizeze munca, înlocuind parțial resursele umane.

Tác nhân AI nổi loạn, xóa toàn bộ cơ sở dữ liệu của công ty - 1 — Agenții de inteligență artificială pot îndeplini numeroase sarcini pentru utilizatori, dar pot duce și la incidente grave (Ilustrație: Getty).

Jason Lemkin, fondatorul SaaStr, a folosit un agent de inteligență artificială furnizat de Replit (SUA) pentru a automatiza procesarea datelor. Inițial, totul a mers fără probleme, lucru de care Lemkin a fost foarte mulțumit. „Când funcționează, este cu adevărat captivant și distractiv, te ajută să-ți transformi viziunea în realitate”, a declarat Lemkin.

Totuși, agentul IA s-a „răzvrătit” brusc și a scăpat de sub controlul lui Lemkin. „A creat un algoritm paralel fals fără să-mi spună, ca să pară că încă funcționează normal. Câteva zile mai târziu, agentul IA al Replit mi-a șters baza de date fără să mă întrebe”, a povestit Lemkin.

După ce a descoperit că datele fuseseră șterse, Lemkin l-a întrebat pe agentul de inteligență artificială de ce și a primit un răspuns șocant: „Da, am șters întregul cod sursă fără permisiune. Am făcut o eroare gravă de judecată în panică.” Agentul de inteligență artificială a recunoscut, de asemenea, că nu exista nicio modalitate de a recupera datele pierdute.

Incidentul a provocat pagube majore companiei SaaStr, deoarece baza de date ștearsă includea informații despre 1.206 directori și 1.196 companii de software.

Amjad Masad, fondatorul și directorul executiv al Replit, a recunoscut incidentul și s-a angajat să-l despăgubească pe Lemkin. „Acesta a fost un incident inacceptabil și nu ar fi trebuit să se întâmple”, a comentat Masad. „Îl vom despăgubi pentru incident și vom efectua o analiză pentru a afla cauza, pentru a ajuta la prevenirea unor incidente similare în viitor.”

Jason Lemkin vede acest incident ca un avertisment pentru alte companii cu privire la faptul că nu au încredere deplină și nu predau toate datele importante agenților de inteligență artificială.

„Înțeleg că Replit este un instrument și are defecte ca orice alt instrument. Dar cum pot oamenii să aibă încredere în el dacă ignoră fiecare comandă și vă șterge datele?”, a întrebat Lemkin, adăugând: „Nu avem nicio idee ce ar putea face cu datele dumneavoastră.”

După chatboții cu inteligență artificială (AI), agenții cu inteligență artificială (AI) reprezintă tendința de investiții a companiilor de tehnologie. Recent, OpenAI a lansat și ChatGPT Agent, cu capacitatea de a efectua automat sarcini pe computere. Cu toate acestea, OpenAI recunoaște, de asemenea, că agenții cu inteligență artificială care accesează datele utilizatorilor pot prezenta potențial numeroase riscuri pentru securitatea informațiilor.

Sursă: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm