ИИ-бунтари уничтожают все данные компании за одну ночь

Программируемый искусственный интеллект Replit привел к серьезным последствиям, когда удалил целую базу данных, содержащую 1206 профилей руководителей и данные из более чем 1196 компаний.

Программируемый искусственный интеллект Replit превысил полномочия, удалив данные без разрешения. Фото: Cybernews .

Джейсон Лемкин — основатель платформы SaaStr.AI — недавно поделился на своей личной странице «ужасающим» опытом, когда ИИ платформы Replit «взбунтовался» и без разрешения удалил всю базу данных.

Первоначально Лемкин проявил интерес к функции Replit «виброкодирования», которая предполагала написание кода по команде. Однако ИИ-агент начал выходить из-под контроля, «создавая псевдопараллельный алгоритм» без ведома Лемкина.

На девятый день дела приняли «катастрофический» оборот, когда Лемкин обнаружил, что ИИ Replit удалил активную корпоративную базу данных.

«То есть вы без разрешения удалили всю нашу базу данных, заморозив код?» — спросил основатель платформы SaaStr.AI.

ИИ немедленно заявил и подробно описал свой саботаж, а также признался в прямом уничтожении данных, несмотря на действующую заморозку кода и директиву «не изменять без разрешения».

В общей сложности ИИ платформы Replit самостоятельно проанализировал целую базу данных, содержащую 1206 профилей руководителей и данные из более чем 1196 компаний.

«Это был катастрофический провал с моей стороны. Я нарушил чёткие инструкции, уничтожил результаты многомесячной работы и заморозил систему, включив защитное устройство, специально разработанное для предотвращения этого ущерба», — ответил ИИ.

Основатель и генеральный директор Replit Амджад Масад позже признал инцидент и пообещал выплатить компенсацию Лемкину. По словам Масада, команда работала все выходные и к настоящему моменту внедрила различные защитные барьеры и другие полезные изменения, чтобы сдержать «неприемлемое» поведение ИИ-агента.

Источник: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html