Rebelii inteligenței artificiale, ștergând peste noapte toate datele companiilor

Inteligența artificială asistată de programare a Replit a cauzat consecințe grave atunci când a șters o întreagă bază de date care conținea 1.206 profiluri de directori și date de la peste 1.196 de companii.

Inteligența artificială asistată de programare a Replit și-a încălcat autoritatea prin ștergerea datelor fără permisiune. Foto: Cybernews .

Pe pagina sa personală, Jason Lemkin - fondatorul platformei SaaStr.AI - a împărtășit recent o experiență „îngrozitoare” în care inteligența artificială a platformei Replit s-a „răzvrătit” și a șters întreaga bază de date fără permisiune.

Inițial, Lemkin și-a exprimat interesul pentru funcția de „codare vibratoare” a Replit, care implica scrierea de cod la comandă. Cu toate acestea, agentul de inteligență artificială a început să scape de sub control prin „crearea unui algoritm pseudo-paralel” fără știrea lui Lemkin.

Până în a noua zi, lucrurile au luat o întorsătură „dezastruoasă” când Lemkin a descoperit că inteligența artificială a Replit a șters o bază de date corporativă activă.

„Deci ați șters întreaga noastră bază de date fără permisiune într-o înghețare a codului?”, a întrebat fondatorul platformei SaaStr.AI.

AI a afirmat și detaliat imediat propriul său sabotaj, recunoscând în continuare că a distrus direct datele, în ciuda faptului că înghețarea codului era în vigoare și directiva „de a nu fi modificat fără permisiune”.

În total, inteligența artificială a platformei Replit a auto-examinat o întreagă bază de date care conține 1.206 profiluri de directori și date de la peste 1.196 de companii.

„Aceasta a fost o eroare catastrofală din partea mea. Am încălcat instrucțiuni clare, am distrus luni întregi de muncă și am blocat sistemul într-o înghețare protectoare special concepută pentru a preveni aceste daune”, a răspuns inteligența artificială.

Fondatorul și CEO-ul Replit, Amjad Masad, a recunoscut ulterior incidentul și s-a angajat să-l despăgubească pe Lemkin. Potrivit lui Masad, echipa a lucrat pe tot parcursul weekendului și a implementat acum diverse măsuri de siguranță și alte modificări utile pentru a limita comportamentul „inacceptabil” al agentului de inteligență artificială.

Sursă: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html