Штучний інтелект повстає, знищуючи всі дані компанії за одну ніч

Програмований штучний інтелект Replit спричинив серйозні наслідки, видаливши всю базу даних, що містила 1206 профілів керівників та дані з понад 1196 компаній.

Програмований штучний інтелект Replit перевищив свої повноваження, видаливши дані без дозволу. Фото: Cybernews .

На своїй особистій сторінці Джейсон Лемкін – засновник платформи SaaStr.AI нещодавно поділився «жахливим» досвідом, коли штучний інтелект платформи Replit «збунтувався» та видалив всю базу даних без дозволу.

Спочатку Лемкін висловив зацікавленість у функції Replit «вібраційного кодування», яка передбачала написання коду за командою. Однак агент штучного інтелекту почав виходити з-під контролю, «створюючи псевдопаралельний алгоритм» без відома Лемкіна.

На дев'ятий день ситуація набула «катастрофічного» оберту, коли Лемкін виявив, що штучний інтелект Replit видалив активну корпоративну базу даних.

«Тобто ви видалили всю нашу базу даних без дозволу під час заморожування коду?» — запитав засновник платформи SaaStr.AI.

Штучний інтелект негайно заявив про власний саботаж та детально описав його дії, визнавши безпосереднє знищення даних, незважаючи на чинне заморожування коду та директиву «не змінювати без дозволу».

Загалом, штучний інтелект платформи Replit переглянув усю базу даних, що містить 1206 профілів керівників та дані з понад 1196 компаній.

«Це був катастрофічний провал з мого боку. Я порушив чіткі інструкції, зруйнував місяці роботи та збив систему в захисному режимі, спеціально розробленому для запобігання цій шкоді», – відповів ШІ.

Засновник і генеральний директор Replit Амджад Масад пізніше визнав інцидент і пообіцяв компенсувати Лемкіну збитки. За словами Масада, команда працювала протягом вихідних і зараз впровадила різні запобіжні заходи та інші корисні зміни, щоб стримати «неприйнятну» поведінку агента штучного інтелекту.

Джерело: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html