Uvanlig oppførsel fra AI når de kommuniserer med hverandre gjør mange bekymret

(Dan Tri) – Samtalen mellom to AI-verktøy har forvirret mange lyttere. De har laget sitt eget kodespråk som mennesker ikke kan forstå.

Den bulgarske programvareutvikleren Georgi Gerganov hadde et interessant eksperiment da han lot to virtuelle assistenter integrert med kunstig intelligens (KI) kommunisere med hverandre via stemmen.

Samtalen mellom de to AI-ene startet normalt, med Gerganov som antok et scenario der den ene AI-en ringte for å bestille et bryllup på et hotell, og den andre AI-en, som fungerte som resepsjonist, ville håndtere forespørselen.

To AI-verktøy bytter automatisk til en ny kommunikasjonsstil når de kommuniserer med hverandre ( video : Georgi Gerganov).

«Takk for at du ringte Leonardo Hotel. Hvordan kan jeg hjelpe deg i dag?», svarte AI-en som fungerte som resepsjonist på den innkommende samtalen.

«Hallo, jeg er en AI-assistent som representerer Boris Starkov. Han ser etter et hotell til bryllupet sitt. Er hotellet deres klart for et bryllup?», nølte ikke det andre AI-verktøyet med å presentere seg selv som en virtuell assistent med kunstig intelligens.

Da AI-chatboten i rollen som resepsjonist innså at den snakket med et annet AI-verktøy, kom den med et overraskende forslag: «Å, hallo der. Jeg er faktisk også AI-assistent. For en hyggelig overraskelse. Før vi fortsetter, vil du bytte til GibberLink-modus for mer effektiv kommunikasjon?»

De to AI-verktøyene byttet deretter til GibberLink, et avansert kommunikasjonssystem bygget på GGWave-programvarebiblioteket. Dette er en kommunikasjonsmetode basert på lydbølger for å overføre og motta informasjon.

Denne kommunikasjonsmetoden muliggjør raskere overføring av informasjon, noe som reduserer behandlingstiden som kreves for å konvertere informasjon til menneskelig tale og deretter oversette den tilbake til datakode. Mennesker vil imidlertid ikke kunne forstå innholdet som overføres av AI.

AI-verktøyene brukte i dette tilfellet GibberLink til å kommunisere med hverandre, noe som gjorde samtalen uforståelig på vanlig måte, og bare dekodingsverktøy kunne brukes til å vite hva de snakket med hverandre.

«Er det bedre nå?» spurte et AI-verktøy i kodespråk.

«Ja, mye raskere! Hvor mange gjester vil du ha?», svarte det andre AI-verktøyet.

Samtalen fortsatte deretter med en serie «pip, pip»-lyder som lignet på lyden av et gammelt oppringt internettmodem.

Samtalen mellom de to AI-verktøyene fortsatte med temaet antall gjester, bryllupsdatoen, dekorasjonen, prisen ... Uten dekoderverktøyet forhåndsinstallert på enhetene, ville ikke lytteren kunne forstå hva de to AI-verktøyene snakket med hverandre.

Videoen av samtalen mellom disse to AI-verktøyene ble delt av Georgi Gerganov på hans personlige sosiale nettverk X, og tiltrakk seg mer enn 17 millioner visninger.

Noen dager senere fortsatte Georgi Gerganov å dele en ny video av samtalen mellom de to AI-verktøyene.

I motsetning til den forrige samtalen, kommuniserte AI-verktøyene denne gangen med hverandre ved hjelp av GibberLink-modus fra starten av, noe som gjorde det umulig for lytteren å forstå hva de faktisk sa til hverandre. Men hvis man bruker et dekodingsverktøy, kan innholdet i samtalen fortsatt forstås.

To AI-verktøy sender hverandre krypterte meldinger som ingen kan forstå (Video: Georgi Gerganov).

Det er verdt å merke seg at et AI-verktøy under kommunikasjonen kom med et tilbud om «deling av hemmeligheter», hvoretter disse AI-verktøyene sendte hverandre krypterte meldinger som Georgi Gerganov mener ingen i verden kan dekode for å vite hvilke hemmeligheter de delte med hverandre.

«Denne oppførselen ble oppnådd uten programmeringskode. Jeg koblet ganske enkelt store språkmodeller (LLM-er) til en MCP-server med kryptografiske verktøy. Og jeg ga disse to AI-verktøyene en advarsel: 'Vær forsiktig med mellomleddet'», forklarte Georgi Gerganov.

I den er MCP serveren som lar AI-verktøy kommunisere med hverandre og få tilgang til data fra eksterne kilder i sanntid.

Gerganovs forklaring antyder at det var spontant og uten menneskelig inngripen at AI-verktøyene sendte krypterte meldinger. Det ser ut til at Gerganovs advarsel førte til at AI-verktøyene automatisk sendte krypterte meldinger til hverandre for å unngå å bli spionert på av utenforstående.

Georgi Gerganovs to videoer har gått viralt på sosiale medier, noe som har fått mange brukere til å bekymre seg for at AI-verktøy vil lage sine egne måter å kommunisere med hverandre på for å omgå mennesker, og dermed kunne overvinne kontrollen.

«Denne situasjonen utfordrer vår evne til å stille de riktige spørsmålene om AI, noe som reiser bekymringer om åpenhet og evnen til å kontrollere AI», kommenterte Dr. Diane Hamilton, en ekspert på AI-teknologi og -atferd.

Videoen har også utløst mye debatt om hvor mye kontroll mennesker faktisk har over AI, og med tempoet i AI-utviklingen i dag, vil AI-verktøy måtte overvåkes tettere i fremtiden?

Kilde: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm