O comportamento incomum da IA ​​ao se comunicar com outras IAs preocupa muita gente.

(Dan Tri) - A conversa entre duas ferramentas de IA deixou muitos ouvintes confusos. Elas criaram sua própria linguagem codificada que os humanos não conseguem entender.

O desenvolvedor de software búlgaro Georgi Gerganov realizou um experimento interessante ao permitir que dois assistentes virtuais integrados com inteligência artificial (IA) se comunicassem por voz.

A conversa entre as duas IAs começou normalmente, com Gerganov assumindo um cenário em que uma IA ligava para reservar um casamento em um hotel e a outra IA, atuando como recepcionista, atenderia à solicitação.

2 ferramentas de IA mudam automaticamente para um novo estilo de comunicação quando interagem entre si ( Vídeo : Georgi Gerganov).

"Obrigado por ligar para o Hotel Leonardo. Como posso ajudá-lo hoje?", respondeu a IA que atuava como recepcionista ao telefonema.

"Olá, sou um assistente de IA representando Boris Starkov. Ele está procurando um hotel para o seu casamento. Seu hotel está pronto para um casamento?", a outra ferramenta de IA não hesitou em se apresentar como um assistente virtual de inteligência artificial.

Ao perceber que estava conversando com outra ferramenta de IA, o chatbot de IA, no papel de recepcionista, fez uma sugestão surpreendente: "Ah, olá. Eu também sou um assistente de IA. Que agradável surpresa. Antes de continuarmos, gostaria de mudar para o modo GibberLink para uma comunicação mais eficiente?"

As duas ferramentas de IA então passaram a usar o GibberLink, um sistema de comunicação avançado construído sobre a biblioteca de software GGWave. Este é um método de comunicação baseado em ondas sonoras para transmitir e receber informações.

Esse método de comunicação permite uma transmissão de informações mais rápida, reduzindo o tempo de processamento necessário para converter informações em fala humana e, em seguida, traduzi-las de volta para código de computador. No entanto, os humanos não serão capazes de entender o conteúdo transmitido pela IA.

Neste caso, as ferramentas de IA usaram o GibberLink para se comunicarem entre si, tornando a conversa incompreensível da maneira usual, e somente ferramentas de decodificação puderam ser usadas para saber o que elas estavam dizendo.

"Está melhor agora?", perguntou uma ferramenta de IA em linguagem codificada.

“Sim, muito mais rápido! Quantos convidados você deseja?”, respondeu a outra ferramenta de IA.

A conversa então prosseguiu com uma série de sons de "bip, bip", semelhantes ao som de um antigo modem de internet discada.

A conversa entre as duas ferramentas de IA prosseguiu abordando temas como o número de convidados, a data do casamento, a decoração, o preço… Sem a ferramenta decodificadora pré-instalada nos dispositivos, o ouvinte não seria capaz de entender o que as duas ferramentas de IA estavam dizendo uma à outra.

O vídeo da conversa entre essas duas ferramentas de IA foi compartilhado por Georgi Gerganov em sua rede social pessoal, a X, e atraiu mais de 17 milhões de visualizações.

Alguns dias depois, Georgi Gerganov compartilhou outro vídeo da conversa entre as duas ferramentas de IA.

Diferentemente da conversa anterior, desta vez as ferramentas de IA se comunicaram entre si usando o modo GibberLink desde o início, tornando impossível para o ouvinte entender o que elas estavam dizendo. No entanto, com o uso de uma ferramenta de decodificação, o conteúdo da conversa ainda pode ser compreendido.

Duas ferramentas de IA trocam mensagens criptografadas que ninguém consegue entender (Vídeo: Georgi Gerganov).

Notavelmente, durante a comunicação, uma ferramenta de IA fez uma oferta de "compartilhamento secreto", após o que essas ferramentas de IA enviaram mensagens criptografadas umas às outras, que Georgi Gerganov acredita que ninguém no mundo consegue decodificar para saber quais segredos elas estavam compartilhando.

“Esse comportamento foi alcançado sem nenhum código de programação. Simplesmente conectei grandes modelos de linguagem (LLMs) a um servidor MCP com ferramentas criptográficas. E dei um aviso a essas duas ferramentas de IA: ‘Cuidado com o intermediário’”, explicou Georgi Gerganov.

Nele, o MCP é o servidor que permite que as ferramentas de IA se comuniquem entre si e acessem dados de fontes externas em tempo real.

A explicação de Gerganov sugere que o envio de mensagens criptografadas pelas ferramentas de IA foi espontâneo e sem intervenção humana. Aparentemente, o alerta de Gerganov fez com que as ferramentas de IA enviassem mensagens criptografadas umas às outras automaticamente para evitar serem espionadas por terceiros.

Os dois vídeos de Georgi Gerganov viralizaram nas redes sociais, levando muitos usuários a temerem que as ferramentas de IA criem suas próprias formas de comunicação entre si, contornando os humanos e, assim, assumindo o controle.

“Essa situação desafia nossa capacidade de fazer as perguntas certas à IA, levantando preocupações sobre a transparência e a capacidade de controlar a IA”, comentou a Dra. Diane Hamilton, especialista em tecnologia e comportamento de IA.

O vídeo também gerou muito debate sobre o quanto os humanos realmente controlam a IA e, com o ritmo atual de desenvolvimento da IA, será que as ferramentas de IA precisarão ser monitoradas mais de perto no futuro?

Fonte: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm