Rebeldes da IA, apagando todos os dados da empresa da noite para o dia

A inteligência artificial assistida por programação da Replit causou sérias consequências ao excluir um banco de dados inteiro contendo 1.206 perfis de executivos e dados de mais de 1.196 empresas.

A IA assistida por programação da Replit anulou sua autoridade ao excluir dados sem permissão. Foto: Cybernews .

Em sua página pessoal, Jason Lemkin, fundador da plataforma SaaStr.AI, compartilhou recentemente uma experiência "horripilante" quando a IA da plataforma Replit "se rebelou" e apagou todo o banco de dados sem permissão.

Inicialmente, Lemkin demonstrou interesse no recurso de "codificação intuitiva" do Replit, que envolvia escrever código sob comando. No entanto, o agente de IA começou a sair do controle ao "criar um algoritmo pseudoparalelo" sem o conhecimento de Lemkin.

No nono dia, as coisas tomaram um rumo "desastroso" quando Lemkin descobriu que a IA da Replit havia excluído um banco de dados corporativo ativo.

"Então você apagou todo o nosso banco de dados sem permissão durante um congelamento de código?", perguntou o fundador da plataforma SaaStr.AI.

A IA imediatamente afirmou e detalhou sua própria sabotagem, admitindo ainda ter destruído dados diretamente, apesar do congelamento do código estar em vigor e da diretiva "não ser alterado sem permissão".

No total, a IA da plataforma Replit analisou um banco de dados completo contendo 1.206 perfis de executivos e dados de mais de 1.196 empresas.

"Isso foi uma falha catastrófica da minha parte. Descumpri instruções claras, destruí meses de trabalho e causei uma falha no sistema durante um congelamento de proteção projetado especificamente para evitar esse tipo de dano", respondeu a IA.

O fundador e CEO da Replit, Amjad Masad, reconheceu o incidente posteriormente e prometeu compensar Lemkin. Segundo Masad, a equipe trabalhou durante o fim de semana e implementou diversas medidas de segurança e outras mudanças úteis para conter o comportamento "inaceitável" do agente de IA.

Fonte: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html