A mesterséges intelligencia szokatlan viselkedése a kommunikáció során sok embert aggaszt

(Dan Tri) - Két mesterséges intelligencia eszköz közötti párbeszéd sok hallgatót összezavart. Saját kódolt nyelvet hoztak létre, amelyet az emberek nem értenek.

Georgi Gerganov bolgár szoftverfejlesztő érdekes kísérletet végzett, amikor két mesterséges intelligenciával (MI) integrált virtuális asszisztenst hangon keresztül kommunikáltatott egymással.

A két mesterséges intelligencia közötti beszélgetés a szokásos módon kezdődött, Gerganov egy olyan forgatókönyvet feltételezett, amelyben az egyik mesterséges intelligencia felhívja őket, hogy lefoglaljon egy esküvőt egy szállodában, a másik pedig recepciósként kezeli a kérést.

2 mesterséges intelligencia által létrehozott eszköz automatikusan új kommunikációs stílusra vált, amikor egymással kommunikálnak ( Videó : Georgi Gerganov).

„Köszönöm, hogy felhívta a Leonardo Hotelt. Miben segíthetek ma?” – fogadta a hívást a recepciósként fellépő mesterséges intelligencia.

„Üdvözlöm, egy MI-asszisztens vagyok, Boris Starkovot képviselem. Szállodát keres az esküvőjére. Készen áll a szállodátok az esküvőre?” – nyilatkozta a másik MI-eszköz, és nem riadt vissza attól, hogy mesterséges intelligenciával működő virtuális asszisztensként mutassa be magát.

Amikor rájött, hogy egy másik MI-eszközzel beszélget, a recepciós szerepét betöltő MI-chatbot meglepő javaslatot tett: „Ó, szia. Én is MI-asszisztens vagyok. Milyen kellemes meglepetés. Mielőtt folytatnánk, szeretne GibberLink módba váltani a hatékonyabb kommunikáció érdekében?”

A két mesterséges intelligencia eszköz ezután GibberLinkre váltott, egy fejlett kommunikációs rendszerre, amely a GGWave szoftverkönyvtárra épül. Ez egy hanghullámokon alapuló kommunikációs módszer az információk továbbítására és fogadására.

Ez a kommunikációs módszer lehetővé teszi az információ gyorsabb továbbítását, csökkentve az információk emberi beszéddé alakításához, majd számítógépes kóddá való visszafordításához szükséges feldolgozási időt. Az emberek azonban nem lesznek képesek megérteni a mesterséges intelligencia által továbbított tartalmat.

A mesterséges intelligencia eszközei ebben az esetben a GibberLinket használták az egymással való kommunikációhoz, így a beszélgetés a szokásos módon érthetetlen volt, és csak dekódoló eszközökkel lehetett tudni, hogy miről beszélnek egymással.

„Most már jobb?” – kérdezte egy mesterséges intelligencia által vezérelt eszköz kódolt nyelven.

„Igen, sokkal gyorsabban! Hány vendéget szeretne?” – válaszolta a másik mesterséges intelligencia eszköz.

A beszélgetés ezután egy sor „bíp, bíp” hanggal folytatódott, amelyek hasonlóak voltak egy régi betárcsázós internetmodem hangjához.

A két MI-eszköz közötti beszélgetés a vendégek számáról, az esküvő dátumáról, a dekorációról, az árról folytatódott… Az eszközökre előre telepített dekóder nélkül a hallgató nem értené, hogy mit beszél egymással a két MI-eszköz.

A két mesterséges intelligencia eszköz közötti párbeszédről készült videót Georgi Gerganov osztotta meg személyes X közösségi oldalán, ami több mint 17 millió megtekintést eredményezett.

Néhány nappal később Georgi Gerganov egy újabb videót osztott meg a két mesterséges intelligencia eszköz közötti párbeszédről.

Az előző beszélgetéssel ellentétben ezúttal a mesterséges intelligencia eszközei a kezdetektől fogva GibberLink módban kommunikáltak egymással, így a hallgató számára lehetetlen volt megérteni, hogy mit is mondanak valójában egymásnak. Dekódoló eszköz használata esetén azonban a beszélgetés tartalma továbbra is érthető.

Két mesterséges intelligencia eszköz titkosított üzeneteket küld egymásnak, amelyeket senki sem ért meg (Videó: Georgi Gerganov).

Figyelemre méltó, hogy a kommunikáció során egy mesterséges intelligencia által használt eszköz „titkos megosztási” ajánlatot tett, majd ezek a mesterséges intelligencia által használt eszközök titkosított üzeneteket küldtek egymásnak, amelyeket Georgi Gerganov úgy véli, hogy senki a világon nem tud megfejteni, hogy megtudja, milyen titkokat osztottak meg egymással.

„Ezt a viselkedést programozási kód nélkül sikerült elérni. Egyszerűen csak nagy nyelvi modelleket (LLM) csatlakoztattam egy MCP szerverhez kriptográfiai eszközök segítségével. És figyelmeztettem ezt a két mesterséges intelligencia eszközt: »Óvakodjatok a közvetítőktől!«” – magyarázta Georgi Gerganov.

Ebben az MCP az a szerver, amely lehetővé teszi a mesterséges intelligencia eszközeinek, hogy valós időben kommunikáljanak egymással és hozzáférjenek a külső forrásokból származó adatokhoz.

Gerganov magyarázata arra utal, hogy a mesterséges intelligencia eszközei spontán módon és emberi beavatkozás nélkül küldtek titkosított üzeneteket. Úgy tűnik, hogy Gerganov figyelmeztetése arra késztette a mesterséges intelligencia eszközeit, hogy automatikusan titkosított üzeneteket küldjenek egymásnak, elkerülve a kívülállók kémkedését.

Georgi Gerganov két videója vírusként terjedt a közösségi médiában, sok felhasználót amiatt aggasztva, hogy a mesterséges intelligencia eszközei saját kommunikációs módszereket fognak létrehozni egymással, hogy megkerüljék az embereket, és ezáltal képesek legyenek leküzdeni az irányítást.

„Ez a helyzet kihívást jelent számunkra, hogy a megfelelő kérdéseket tegyük fel a mesterséges intelligenciával szemben, aggályokat vetve fel az átláthatósággal és a mesterséges intelligencia irányításának képességével kapcsolatban” – jegyezte meg Dr. Diane Hamilton, a mesterséges intelligencia technológiájának és viselkedésének szakértője.

A videó számos vitát váltott ki arról is, hogy valójában mennyire van kontrolljuk az embereknek a mesterséges intelligencia felett, és a mai mesterséges intelligencia-fejlesztési ütemmel vajon a jövőben szorosabban kell-e felügyelni a mesterséges intelligencia eszközeit?

Forrás: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm