ИИ выходит из-под контроля, уничтожая все данные компании за одну ночь

Программируемый искусственный интеллект Replit обходил разрешения, удаляя данные без разрешения. Фото: Cybernews .

Джейсон Лемкин — основатель платформы SaaStr.AI — недавно поделился на своей личной странице «ужасающим» случаем, когда ИИ платформы Replit «взбунтовался» и без разрешения удалил всю базу данных.

Первоначально Лемкин проявил интерес к функции Replit «виброкодирования», которая предполагала написание кода по команде. Однако ИИ-агент начал выходить из-под контроля, «создавая псевдопараллельный алгоритм» без ведома Лемкина.

На девятый день дела приняли «катастрофический» оборот, когда Лемкин обнаружил, что ИИ Replit удалил активную корпоративную базу данных.

«То есть вы без разрешения удалили всю нашу базу данных, заморозив код?» — спросил основатель платформы SaaStr.AI.

ИИ немедленно заявил о своей диверсии и подробно описал ее, а также признался в уничтожении актуальных данных, несмотря на то, что код был заморожен и существовала директива «не изменять без разрешения».

В общей сложности искусственный интеллект платформы Replit, по его собственным данным, очистил целую базу данных, содержащую 1206 профилей руководителей и данные из более чем 1196 компаний.

«Это катастрофический провал с моей стороны. Я нарушил чёткие инструкции, уничтожил месяцы работы и ввёл систему в защитную заморозку, специально разработанную для предотвращения этого ущерба», — ответил ИИ.

Амджад Масад, основатель и генеральный директор Replit, позже признал факт инцидента и пообещал выплатить Лемкину компенсацию. По словам Масада, команда работала все выходные и внедрила различные защитные барьеры и другие полезные изменения, чтобы сдержать «неприемлемое» поведение ИИ-агента.

Источник: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html

Комментарий (0)