Ovanligt beteende hos AI när de kommunicerar med varandra oroar många

(Dan Tri) – Konversationen mellan två AI-verktyg har förvirrat många lyssnare. De har skapat sitt eget kodspråk som människor inte kan förstå.

Den bulgariske mjukvaruutvecklaren Georgi Gerganov gjorde ett intressant experiment när han lät två virtuella assistenter integrerade med artificiell intelligens (AI) kommunicera med varandra via rösten.

Samtalet mellan de två AI:erna började normalt, med Gerganov antagna ett scenario där den ena AI:n ringde för att boka ett bröllop på ett hotell och den andra AI:n, i egenskap av receptionist, skulle hantera förfrågan.

Två AI-verktyg växlar automatiskt till en ny kommunikationsstil när de kommunicerar med varandra ( Video : Georgi Gerganov).

”Tack för att du ringde Leonardo Hotel. Hur kan jag hjälpa dig idag?” svarade AI:n som agerade receptionist på det inkommande samtalet.

”Hej, jag är en AI-assistent som representerar Boris Starkov. Han letar efter ett hotell till sitt bröllop. Är ert hotell redo för ett bröllop?”, drog sig inte det andra AI-verktyget för att presentera sig som en virtuell assistent med artificiell intelligens.

När AI-chatboten i rollen som receptionist insåg att den pratade med ett annat AI-verktyg kom den med ett överraskande förslag: "Åh, hej där. Jag är faktiskt också AI-assistent. Vilken trevlig överraskning. Innan vi fortsätter, vill du byta till GibberLink-läge för effektivare kommunikation?"

De två AI-verktygen bytte sedan till GibberLink, ett avancerat kommunikationssystem byggt på GGWave-programvarubiblioteket. Detta är en kommunikationsmetod baserad på ljudvågor för att överföra och ta emot information.

Denna kommunikationsmetod möjliggör snabbare överföring av information, vilket minskar den bearbetningstid som krävs för att omvandla information till mänskligt tal och sedan översätta den tillbaka till datorkod. Människor kommer dock inte att kunna förstå innehållet som överförs av AI.

AI-verktygen använde i det här fallet GibberLink för att kommunicera med varandra, vilket gjorde samtalet obegripligt på vanligt sätt, och endast avkodningsverktyg kunde användas för att veta vad de pratade med varandra.

”Är det bättre nu?” frågade ett AI-verktyg i kodat språk.

”Ja, mycket snabbare! Hur många gäster vill du ha?”, svarade det andra AI-verktyget.

Samtalet fortsatte sedan med en serie "pip, pip"-ljud liknande ljudet av ett gammalt uppringt internetmodem.

Samtalet mellan de två AI-verktygen fortsatte kring antalet gäster, bröllopsdatumet, dekorationen, priset… Utan avkodningsverktyget förinstallerat på enheterna skulle lyssnaren inte kunna förstå vad de två AI-verktygen pratade med varandra.

Videon av samtalet mellan dessa två AI-verktyg delades av Georgi Gerganov på hans personliga sociala nätverkssajt X och lockade mer än 17 miljoner visningar.

Några dagar senare fortsatte Georgi Gerganov att dela ytterligare en video av samtalet mellan de två AI-verktygen.

Till skillnad från den tidigare konversationen kommunicerade AI-verktygen den här gången med varandra via GibberLink-läge från början, vilket gjorde det omöjligt för lyssnaren att förstå vad de faktiskt sa till varandra. Men om man använder ett avkodningsverktyg kan innehållet i konversationen fortfarande förstås.

Två AI-verktyg skickar krypterade meddelanden till varandra som ingen kan förstå (Video: Georgi Gerganov).

Det är värt att notera att ett AI-verktyg under kommunikationen erbjöd sig att "dela hemligheter", varefter dessa AI-verktyg skickade krypterade meddelanden till varandra som Georgi Gerganov tror att ingen i världen kan avkoda för att veta vilka hemligheter de delade med varandra.

”Det här beteendet uppnåddes utan någon programmeringskod. Jag kopplade helt enkelt stora språkmodeller (LLM) till en MCP-server med kryptografiska verktyg. Och jag gav dessa två AI-verktyg en varning: ’Se upp för mellanhänderna’”, förklarade Georgi Gerganov.

I den är MCP servern som gör det möjligt för AI-verktyg att kommunicera med varandra och få tillgång till data från externa källor i realtid.

Gerganovs förklaring antyder att AI-verktygens sändning av krypterade meddelanden var spontan och utan mänsklig inblandning. Det verkar som att Gerganovs varning fick AI-verktygen att automatiskt skicka krypterade meddelanden till varandra för att undvika att bli spionerade av utomstående.

Georgi Gerganovs två videor har blivit virala på sociala medier, vilket fått många användare att oroa sig för att AI-verktyg kommer att skapa sina egna sätt att kommunicera med varandra för att kringgå människor och därigenom kunna övervinna kontrollen.

”Den här situationen utmanar vår förmåga att ställa rätt frågor om AI, vilket väcker oro kring transparens och förmågan att kontrollera AI”, kommenterade Dr. Diane Hamilton, expert på AI-teknik och beteende.

Videon har också väckt en hel del debatt om hur mycket kontroll människor faktiskt har över AI, och med den takt AI-utvecklingen har idag, kommer AI-verktyg att behöva övervakas noggrannare i framtiden?

Källa: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm