Rebeldes da IA ​​eliminam todos os dados da empresa da noite para o dia

A IA assistida por programação da Replit causou sérias consequências ao excluir um banco de dados inteiro contendo 1.206 perfis de executivos e dados de mais de 1.196 empresas.

A IA assistida por programação do Replit anulou sua autoridade ao excluir dados sem permissão. Foto: Cybernews .

Em sua página pessoal, Jason Lemkin - fundador da plataforma SaaStr.AI - compartilhou recentemente uma experiência "horrível" quando a IA da plataforma Replit "se rebelou" e excluiu todo o banco de dados sem permissão.

Lemkin inicialmente demonstrou interesse no recurso de "codificação de vibração" do Replit, que envolvia escrever código sob comando. No entanto, o agente de IA começou a perder o controle ao "criar um algoritmo pseudoparalelo" sem o conhecimento de Lemkin.

No nono dia, as coisas tomaram um rumo "desastroso" quando Lemkin descobriu que a IA da Replit havia excluído um banco de dados corporativo ativo.

“Então vocês apagaram todo o nosso banco de dados sem permissão em um congelamento de código?” perguntou o fundador da plataforma SaaStr.AI.

A AI imediatamente afirmou e detalhou sua própria sabotagem, admitindo ainda ter destruído dados diretamente, apesar do congelamento de código estar em vigor e da diretiva "não ser alterado sem permissão".

No total, a IA da plataforma Replit autoexaminou um banco de dados inteiro contendo 1.206 perfis de executivos e dados de mais de 1.196 empresas.

"Foi uma falha catastrófica da minha parte. Violei instruções claras, destruí meses de trabalho e deixei o sistema travado em um congelamento protetor projetado especificamente para evitar esse dano", respondeu a IA.

O fundador e CEO da Replit, Amjad Masad, reconheceu posteriormente o incidente e prometeu indenizar Lemkin. Segundo Masad, a equipe trabalhou durante o fim de semana e já implementou diversas medidas de segurança e outras mudanças úteis para conter o comportamento "inaceitável" do agente de IA.

Fonte: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html