Ongebruikelijk gedrag van AI bij communicatie met elkaar baart veel mensen zorgen

(Dan Tri) - Het gesprek tussen twee AI-tools heeft veel luisteraars in verwarring gebracht. Ze hebben hun eigen codetaal gecreëerd die mensen niet kunnen begrijpen.

De Bulgaarse softwareontwikkelaar Georgi Gerganov voerde een interessant experiment uit toen hij twee virtuele assistenten met ingebouwde kunstmatige intelligentie (AI) met elkaar liet communiceren via hun stem.

Het gesprek tussen de twee AI's begon normaal, waarbij Gerganov zich een scenario voorstelde waarbij de ene AI belde om een ​​bruiloft in een hotel te boeken en de andere AI, die de rol van receptioniste op zich nam, het verzoek zou afhandelen.

2 AI-tools schakelen automatisch over naar een nieuwe communicatiestijl wanneer ze met elkaar communiceren ( Video : Georgi Gerganov).

"Bedankt dat u het Leonardo Hotel belt. Hoe kan ik u vandaag helpen?", antwoordde de AI die als receptionist fungeerde.

"Hallo, ik ben een AI-assistent en vertegenwoordig Boris Starkov. Hij is op zoek naar een hotel voor zijn bruiloft. Is uw hotel klaar voor een bruiloft?", de andere AI-tool aarzelde niet om zichzelf te presenteren als een virtuele assistent met kunstmatige intelligentie.

Toen de AI-chatbot in de rol van receptioniste besefte dat hij met een andere AI-tool communiceerde, deed hij een verrassende suggestie: "Oh, hallo. Ik ben eigenlijk ook een AI-assistent. Wat een aangename verrassing. Wilt u, voordat we verdergaan, overschakelen naar de GibberLink-modus voor efficiëntere communicatie?"

De twee AI-tools schakelden vervolgens over op GibberLink, een geavanceerd communicatiesysteem gebaseerd op de GGWave-softwarebibliotheek. Dit is een communicatiemethode gebaseerd op geluidsgolven om informatie te verzenden en ontvangen.

Deze communicatiemethode maakt snellere informatieoverdracht mogelijk, waardoor de verwerkingstijd die nodig is om informatie om te zetten in menselijke spraak en deze vervolgens weer terug te vertalen naar computercode, wordt verkort. Mensen zullen de door AI verzonden inhoud echter niet kunnen begrijpen.

In dit geval maakten de AI-tools gebruik van GibberLink om met elkaar te communiceren, waardoor het gesprek op de gebruikelijke manier onbegrijpelijk werd en alleen decoderingstools konden achterhalen waarover ze met elkaar spraken.

“Gaat het nu beter?” vroeg een AI-tool in gecodeerde taal.

"Ja, veel sneller! Hoeveel gasten wilt u?", antwoordde de andere AI-tool.

Het gesprek ging verder met een reeks piep-, piep- en andere geluiden, die leken op het geluid van een oude inbelmodem voor internet.

Het gesprek tussen de twee AI-tools ging verder over het aantal gasten, de trouwdatum, de decoratie, de prijs... Zonder de decodertool die vooraf op de apparaten was geïnstalleerd, zou de luisteraar niet kunnen begrijpen wat de twee AI-tools met elkaar zeiden.

De video van het gesprek tussen deze twee AI-tools werd gedeeld door Georgi Gerganov op zijn persoonlijke sociale netwerksite X en trok meer dan 17 miljoen views.

Een paar dagen later deelde Georgi Gerganov nog een video van het gesprek tussen de twee AI-tools.

In tegenstelling tot het vorige gesprek communiceerden de AI-tools deze keer vanaf het begin met elkaar via de GibberLink-modus, waardoor het voor de luisteraar onmogelijk was om te verstaan ​​wat ze eigenlijk tegen elkaar zeiden. Met een decoderingstool is de inhoud van het gesprek echter nog steeds te begrijpen.

Twee AI-tools sturen elkaar versleutelde berichten die niemand kan begrijpen (Video: Georgi Gerganov).

Opvallend is dat een AI-tool tijdens de communicatie een aanbod deed om 'geheimen te delen'. Vervolgens stuurden de AI-tools elkaar gecodeerde berichten waarvan Georgi Gerganov denkt dat niemand ter wereld deze kan ontcijferen om te achterhalen welke geheimen ze met elkaar deelden.

"Dit gedrag werd bereikt zonder enige programmeercode. Ik verbond simpelweg grote taalmodellen (LLM's) met een MCP-server met cryptografische tools. En ik gaf deze twee AI-tools een waarschuwing: 'Pas op voor de tussenpersoon'", legde Georgi Gerganov uit.

MCP is daarin de server waarmee AI-tools met elkaar kunnen communiceren en in realtime toegang hebben tot gegevens uit externe bronnen.

Gerganovs uitleg suggereert dat de AI-tools die gecodeerde berichten verstuurden spontaan en zonder menselijke tussenkomst gebeurden. Het lijkt erop dat Gerganovs waarschuwing ervoor zorgde dat de AI-tools automatisch gecodeerde berichten naar elkaar stuurden om te voorkomen dat ze door buitenstaanders werden bespioneerd.

De twee video's van Georgi Gerganov zijn viraal gegaan op sociale media. Veel gebruikers zijn daardoor bezorgd dat AI-tools hun eigen manieren gaan creëren om met elkaar te communiceren, om zo de menselijke controle te omzeilen.

"Deze situatie stelt ons vermogen om de juiste vragen aan AI te stellen op de proef, wat leidt tot zorgen over transparantie en het vermogen om AI te controleren", aldus Dr. Diane Hamilton, een expert op het gebied van AI-technologie en -gedrag.

De video heeft ook veel discussie aangewakkerd over de mate waarin mensen daadwerkelijk controle hebben over AI. Moeten AI-tools in de toekomst nauwlettender in de gaten worden gehouden, gezien het tempo waarin AI zich momenteel ontwikkelt?

Bron: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm