Le comportement inhabituel des IA lors de leurs communications suscite de nombreuses inquiétudes.

(Dan Tri) – La conversation entre deux outils d'IA a semé la confusion chez de nombreux auditeurs. Ils ont créé leur propre langage codé, incompréhensible pour les humains.

Le développeur de logiciels bulgare Georgi Gerganov a mené une expérience intéressante lorsqu'il a laissé deux assistants virtuels intégrés à l'intelligence artificielle (IA) communiquer entre eux par la voix.

La conversation entre les deux IA a commencé normalement, Gerganov supposant un scénario où une IA appelait pour réserver un mariage dans un hôtel et l'autre IA, jouant le rôle d'une réceptionniste, traiterait la demande.

Deux outils d'IA passent automatiquement à un nouveau style de communication lorsqu'ils communiquent entre eux ( Vidéo : Georgi Gerganov).

« Merci d'avoir appelé l'hôtel Leonardo. Comment puis-je vous aider aujourd'hui ? », répondit l'IA jouant le rôle de réceptionniste à l'appel entrant.

« Bonjour, je suis un assistant IA, représentant Boris Starkov. Il cherche un hôtel pour son mariage. Votre hôtel est-il prêt pour un mariage ? », a déclaré l'autre outil d'IA sans hésiter, se présentant comme un assistant virtuel doté d'intelligence artificielle.

En réalisant qu'il s'adressait à un autre outil d'IA, le chatbot IA jouant le rôle de réceptionniste a fait une suggestion surprenante : « Oh, bonjour. Je suis moi aussi un assistant IA. Quelle agréable surprise ! Avant de continuer, souhaiteriez-vous passer en mode GibberLink pour une communication plus efficace ? »

Les deux outils d'IA ont ensuite utilisé GibberLink, un système de communication avancé basé sur la bibliothèque logicielle GGWave. Il s'agit d'une méthode de communication utilisant les ondes sonores pour transmettre et recevoir des informations.

Ce mode de communication permet une transmission plus rapide de l'information, réduisant ainsi le temps de traitement nécessaire pour convertir l'information en parole humaine puis la retraduire en code informatique. Cependant, les humains ne pourront pas comprendre le contenu transmis par l'IA.

Dans ce cas précis, les outils d'IA utilisaient GibberLink pour communiquer entre eux, rendant la conversation incompréhensible de manière classique ; seuls des outils de décodage pouvaient être utilisés pour savoir de quoi ils se parlaient.

« Est-ce que ça va mieux maintenant ? » a demandé un outil d'IA dans un langage codé.

« Oui, beaucoup plus rapide ! Combien d’invités souhaitez-vous ? », répondit l’autre outil d’IA.

La conversation s'est ensuite poursuivie avec une série de bips « bip, bip » semblables au son d'un vieux modem internet par ligne commutée.

La conversation entre les deux outils d'IA s'est poursuivie sur le thème du nombre d'invités, de la date du mariage, de la décoration, du prix… Sans l'outil de décodage préinstallé sur les appareils, l'auditeur n'aurait pas pu comprendre ce que les deux outils d'IA se disaient.

La vidéo de la conversation entre ces deux outils d'IA a été partagée par Georgi Gerganov sur son réseau social personnel X, attirant plus de 17 millions de vues.

Quelques jours plus tard, Georgi Gerganov a continué à partager une autre vidéo de la conversation entre les deux outils d'IA.

Contrairement à la conversation précédente, cette fois-ci, les outils d'IA ont communiqué dès le départ en mode GibberLink, rendant impossible la compréhension de leurs échanges par l'auditeur. Toutefois, l'utilisation d'un outil de décodage permet de déchiffrer le contenu de la conversation.

Deux outils d'IA s'envoient des messages cryptés que personne ne peut comprendre (Vidéo : Georgi Gerganov).

Notamment, au cours de cette communication, un outil d'IA a proposé un « partage de secrets », après quoi ces outils d'IA se sont envoyés des messages cryptés que Georgi Gerganov estime que personne au monde ne peut décoder pour savoir quels secrets ils partageaient.

« Ce comportement a été obtenu sans aucune ligne de code. J’ai simplement connecté de grands modèles de langage (LLM) à un serveur MCP à l’aide d’outils cryptographiques. Et j’ai averti ces deux outils d’IA : “Attention à l’intermédiaire” », a expliqué Georgi Gerganov.

Dans ce système, MCP est le serveur qui permet aux outils d'IA de communiquer entre eux et d'accéder en temps réel à des données provenant de sources externes.

L'explication de Gerganov laisse entendre que l'envoi de messages cryptés par les outils d'IA était spontané et sans intervention humaine. Il semblerait que l'avertissement de Gerganov ait incité ces outils à s'envoyer automatiquement des messages cryptés afin d'éviter d'être espionnés.

Les deux vidéos de Georgi Gerganov sont devenues virales sur les réseaux sociaux, suscitant l'inquiétude de nombreux utilisateurs quant à la possibilité que les outils d'IA créent leurs propres moyens de communiquer entre eux pour contourner les humains et ainsi échapper à tout contrôle.

« Cette situation remet en question notre capacité à poser les bonnes questions à l’IA, soulevant des inquiétudes quant à la transparence et à notre capacité à contrôler l’IA », a commenté le Dr Diane Hamilton, experte en technologies et comportements de l’IA.

La vidéo a également suscité de nombreux débats sur le degré de contrôle réel des humains sur l'IA, et compte tenu du rythme actuel de développement de l'IA, les outils d'IA devront-ils être surveillés de plus près à l'avenir ?

(Dan Tri) – La conversation entre deux outils d'IA a semé la confusion chez de nombreux auditeurs. Ils ont créé leur propre langage codé, incompréhensible pour les humains.

Comment (0)