El comportamiento inusual de la IA al comunicarse entre sí preocupa a muchas personas

(Dan Tri) - La conversación entre dos herramientas de IA ha dejado a muchos oyentes confundidos. Crearon su propio lenguaje codificado que los humanos no pueden entender.

El desarrollador de software búlgaro Georgi Gerganov realizó un experimento interesante cuando permitió que dos asistentes virtuales integrados con inteligencia artificial (IA) se comunicaran entre sí por voz.

La conversación entre las dos IA comenzó con normalidad; Gerganov planteó un escenario en el que una IA llamaba para reservar una boda en un hotel y la otra IA, actuando como recepcionista, gestionaría la solicitud.

Dos herramientas de IA cambian automáticamente a un nuevo estilo de comunicación al comunicarse entre sí ( Vídeo : Georgi Gerganov).

"Gracias por llamar al Hotel Leonardo. ¿En qué puedo ayudarle hoy?", respondió la IA que actuaba como recepcionista a la llamada entrante.

"Hola, soy un asistente de IA, en representación de Boris Starkov. Está buscando un hotel para su boda. ¿Está su hotel preparado para una boda?", la otra herramienta de IA no dudó en presentarse como un asistente virtual de inteligencia artificial.

Al darse cuenta de que estaba hablando con otra herramienta de IA, el chatbot de IA en el papel de recepcionista hizo una sugerencia sorprendente: "Oh, hola. En realidad también soy un asistente de IA. Qué grata sorpresa. Antes de continuar, ¿le gustaría cambiar al modo GibberLink para una comunicación más eficiente?"

Las dos herramientas de IA cambiaron entonces a GibberLink, un sistema de comunicación avanzado basado en la biblioteca de software GGWave. Se trata de un método de comunicación que utiliza ondas sonoras para transmitir y recibir información.

Este método de comunicación permite una transmisión de información más rápida, reduciendo el tiempo de procesamiento necesario para convertir la información en lenguaje humano y luego traducirla de nuevo a código informático. Sin embargo, los humanos no podrán comprender el contenido transmitido por la IA.

En este caso, las herramientas de IA utilizaron GibberLink para comunicarse entre sí, lo que hizo que la conversación fuera incomprensible de la forma habitual, y solo se pudieron utilizar herramientas de decodificación para saber de qué se estaban hablando.

“¿Está mejor ahora?”, preguntó una herramienta de IA en lenguaje codificado.

—¡Sí, mucho más rápido! ¿Cuántos invitados desea? —respondió la otra herramienta de IA.

La conversación continuó entonces con una serie de sonidos de "bip, bip" similares al sonido de un antiguo módem de internet por línea telefónica.

La conversación entre las dos herramientas de IA continuó girando en torno al número de invitados, la fecha de la boda, la decoración, el precio… Sin la herramienta decodificadora preinstalada en los dispositivos, el oyente no podría entender de qué hablaban las dos herramientas de IA.

Georgi Gerganov compartió el vídeo de la conversación entre estas dos herramientas de IA en su red social personal X, donde alcanzó más de 17 millones de visualizaciones.

Unos días después, Georgi Gerganov compartió otro vídeo de la conversación entre las dos herramientas de IA.

A diferencia de la conversación anterior, esta vez las herramientas de IA se comunicaron entre sí mediante GibberLink desde el principio, lo que imposibilitó que el oyente comprendiera lo que realmente se decían. Sin embargo, utilizando una herramienta de decodificación, aún es posible entender el contenido de la conversación.

Dos herramientas de IA se envían mensajes cifrados que nadie puede entender (Vídeo: Georgi Gerganov).

Cabe destacar que, durante la comunicación, una herramienta de IA hizo una oferta de "compartición de secretos", tras lo cual estas herramientas de IA se enviaron mensajes cifrados que Georgi Gerganov cree que nadie en el mundo puede descifrar para saber qué secretos estaban compartiendo entre sí.

“Este comportamiento se logró sin escribir una sola línea de código. Simplemente conecté grandes modelos de lenguaje (LLM) a un servidor MCP mediante herramientas criptográficas. Y les advertí a estas dos herramientas de IA: ‘Cuidado con el intermediario’”, explicó Georgi Gerganov.

En él, MCP es el servidor que permite que las herramientas de IA se comuniquen entre sí y accedan a datos de fuentes externas en tiempo real.

La explicación de Gerganov sugiere que el envío de mensajes cifrados por parte de las herramientas de IA fue espontáneo y sin intervención humana. Al parecer, la advertencia de Gerganov provocó que las herramientas de IA se enviaran mensajes cifrados entre sí automáticamente para evitar ser espiadas por terceros.

Los dos vídeos de Georgi Gerganov se han vuelto virales en las redes sociales, causando preocupación entre muchos usuarios de que las herramientas de IA creen sus propias formas de comunicarse entre sí para eludir a los humanos, pudiendo así superar el control.

“Esta situación pone a prueba nuestra capacidad para formular las preguntas correctas a la IA, lo que genera inquietudes sobre la transparencia y la capacidad de controlarla”, comentó la Dra. Diane Hamilton, experta en tecnología y comportamiento de la IA.

El vídeo también ha suscitado un intenso debate sobre cuánto control tienen realmente los humanos sobre la IA, y con el ritmo actual de desarrollo de la IA, ¿será necesario un seguimiento más estricto de las herramientas de IA en el futuro?

Fuente: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm