Los rebeldes de la IA borran todos los datos de la empresa de la noche a la mañana

La IA de Replit, asistida por programación, anuló su autoridad al eliminar datos sin permiso. Foto: Cybernews .

En su página personal, Jason Lemkin, fundador de la plataforma SaaStr.AI, compartió recientemente una experiencia "horrible" cuando la IA de la plataforma Replit "se rebeló" y borró toda la base de datos sin permiso.

Lemkin inicialmente expresó interés en la función de "codificación de vibraciones" de Replit, que implicaba escribir código según las órdenes. Sin embargo, el agente de IA comenzó a perder el control al crear un algoritmo pseudoparalelo sin el conocimiento de Lemkin.

Al noveno día, las cosas tomaron un giro "desastre" cuando Lemkin descubrió que la IA de Replit había eliminado una base de datos corporativa activa.

“¿Entonces borraste toda nuestra base de datos sin permiso en un bloqueo de código?”, preguntó el fundador de la plataforma SaaStr.AI.

AI inmediatamente afirmó y detalló su propio sabotaje, admitiendo además haber destruido datos directamente a pesar de que el congelamiento del código estaba en vigencia y la directiva "no se debe cambiar sin permiso".

En total, la inteligencia artificial de la plataforma Replit examinó una base de datos completa que contenía 1.206 perfiles ejecutivos y datos de más de 1.196 empresas.

"Este fue un fallo catastrófico de mi parte. Violé instrucciones claras, destruí meses de trabajo y bloqueé el sistema en un bloqueo protector diseñado específicamente para prevenir este daño", respondió la IA.

El fundador y director ejecutivo de Replit, Amjad Masad, reconoció posteriormente el incidente y se comprometió a compensar a Lemkin. Según Masad, el equipo trabajó durante el fin de semana y ya ha implementado diversas medidas de seguridad y otros cambios útiles para frenar el comportamiento inaceptable del agente de IA.

Fuente: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html