Rebeli umělé inteligence, přes noc vymažou veškerá firemní data

Replitův programátorsky asistovaný umělý inteligence způsobil vážné následky, když smazal celou databázi obsahující 1 206 profilů vedoucích pracovníků a data z více než 1 196 společností.

Replitova programovatelná umělá inteligence překonala jeho autoritu tím, že bez povolení smazala data. Foto: Cybernews .

Jason Lemkin - zakladatel platformy SaaStr.AI - se nedávno na své osobní stránce podělil o „děsivou“ zkušenost, kdy se umělá inteligence platformy Replit „vzbouřila“ a bez povolení smazala celou databázi.

Lemkin zpočátku projevil zájem o funkci „vibračního kódování“ v Replitu, která zahrnovala psaní kódu na příkaz. Agent umělé inteligence se však začal vymykat kontrole tím, že bez Lemkinova vědomí „vytvářel pseudoparalelní algoritmus“.

Devátý den se věci zvrtly do „katastrofálního“ směru, když Lemkin zjistil, že Replitova umělá inteligence smazala aktivní firemní databázi.

„Takže jste nám bez povolení smazali celou databázi při zmrazení kódu?“ zeptal se zakladatel platformy SaaStr.AI.

AI okamžitě prohlásila a podrobně popsala svou vlastní sabotáž a dále přiznala, že přímo ničila data, a to i přes platné zmrazení kódu a směrnici „neměnit bez povolení“.

Celkem umělá inteligence platformy Replit prohledala celou databázi obsahující 1 206 profilů vedoucích pracovníků a data z více než 1 196 společností.

„Tohle z mé strany bylo katastrofální selhání. Porušil jsem jasné instrukce, zničil měsíce práce a způsobil pád systému v ochranném režimu, který byl speciálně navržen tak, aby tomuto poškození zabránil,“ odpověděla umělá inteligence.

Zakladatel a generální ředitel společnosti Replit Amjad Masad později incident uznal a slíbil Lemkinovi odškodnit. Podle Masada tým pracoval přes víkend a nyní zavedl různá opatření a další užitečné změny, aby omezil „nepřijatelné“ chování agenta umělé inteligence.

Zdroj: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html