Neobvyklé chování umělé inteligence při vzájemné komunikaci znepokojuje mnoho lidí.

(Dan Tri) - Konverzace mezi dvěma nástroji umělé inteligence zmátla mnoho posluchačů. Vytvořily si vlastní kódovaný jazyk, kterému lidé nerozumí.

Bulharský softwarový vývojář Georgi Gerganov provedl zajímavý experiment, kdy nechal dva virtuální asistenty integrované s umělou inteligencí (AI) komunikovat spolu hlasem.

Konverzace mezi dvěma umělými inteligencemi začala normálně, Gerganov předpokládal scénář, kdy jedna umělá inteligence volá, aby si rezervovala svatbu v hotelu, a druhá umělá inteligence, která funguje jako recepční, by požadavek vyřídila.

2 nástroje umělé inteligence se při vzájemné komunikaci automaticky přepnou na nový styl komunikace ( Video : Georgi Gerganov).

„Děkujeme, že jste zavolali do hotelu Leonardo. Jak vám dnes mohu pomoci?“ odpověděla umělá inteligence jednající jako recepční na příchozí hovor.

„Dobrý den, jsem asistent s umělou inteligencí, zastupuji Borise Starkova. Hledá hotel pro svou svatbu. Je váš hotel připraven na svatbu?“, druhý nástroj s umělou inteligencí se neostýchal představit jako virtuální asistent s umělou inteligencí.

Když si chatbot s umělou inteligencí v roli recepční uvědomil, že komunikuje s jiným nástrojem s umělou inteligencí, učinil překvapivý návrh: „Ahoj. Já jsem vlastně taky asistent s umělou inteligencí. To je příjemné překvapení. Než budeme pokračovat, chcete přepnout do režimu GibberLink pro efektivnější komunikaci?“

Dva nástroje umělé inteligence poté přešly na GibberLink, pokročilý komunikační systém postavený na softwarové knihovně GGWave. Jedná se o komunikační metodu založenou na zvukových vlnách pro přenos a příjem informací.

Tato metoda komunikace umožňuje rychlejší přenos informací a zkracuje dobu zpracování potřebnou k převodu informací do lidské řeči a jejich následnému překladu zpět do počítačového kódu. Lidé však nebudou schopni porozumět obsahu přenášenému umělou inteligencí.

Nástroje umělé inteligence v tomto případě používaly k vzájemné komunikaci GibberLink, čímž se konverzace obvyklým způsobem stala nesrozumitelnou a k poznání, o čem spolu mluví, bylo možné použít pouze dekódovací nástroje.

„Je to teď lepší?“ zeptal se nástroj umělé inteligence v kódovaném jazyce.

„Ano, mnohem rychleji! Kolik hostů chcete?“ odpověděl druhý nástroj umělé inteligence.

Konverzace pak pokračovala sérií zvuků „píp, píp“ podobných zvuku starého dial-up internetového modemu.

Konverzace mezi dvěma nástroji umělé inteligence pokračovala na téma počtu hostů, data svatby, výzdoby, ceny… Bez dekodéru předinstalovaného na zařízeních by posluchač nebyl schopen pochopit, o čem si oba nástroje umělé inteligence vzájemně mluvily.

Video konverzace mezi těmito dvěma nástroji umělé inteligence sdílel Georgi Gerganov na své osobní sociální síti X a přilákalo více než 17 milionů zhlédnutí.

O několik dní později Georgi Gerganov pokračoval ve sdílení dalšího videa zachycujícího konverzaci mezi těmito dvěma nástroji umělé inteligence.

Na rozdíl od předchozí konverzace tentokrát nástroje umělé inteligence od začátku komunikovaly v režimu GibberLink, takže posluchač nerozuměl tomu, co si vlastně říkají. Pokud se však použije dekódovací nástroj, obsah konverzace lze stále pochopit.

Dva nástroje umělé inteligence si navzájem posílají šifrované zprávy, kterým nikdo nerozumí (Video: Georgi Gerganov).

Je pozoruhodné, že během komunikace nástroj umělé inteligence nabídl „sdílení tajemství“, načež si tyto nástroje umělé inteligence navzájem posílaly šifrované zprávy, o kterých Georgi Gerganov věří, že nikdo na světě nedokáže rozluštit, aby zjistil, jaká tajemství spolu sdílejí.

„Tohoto chování bylo dosaženo bez jakéhokoli programovacího kódu. Jednoduše jsem propojil velké jazykové modely (LLM) se serverem MCP s kryptografickými nástroji. A těmto dvěma nástrojům umělé inteligence jsem dal varování: ‚Dejte si pozor na prostředníka,‘“ vysvětlil Georgi Gerganov.

V něm je MCP server, který umožňuje nástrojům umělé inteligence vzájemnou komunikaci a přístup k datům z externích zdrojů v reálném čase.

Gerganovovo vysvětlení naznačuje, že nástroje umělé inteligence posílaly šifrované zprávy spontánně a bez lidského zásahu. Zdá se, že Gerganovovo varování způsobilo, že si nástroje umělé inteligence automaticky posílaly šifrované zprávy navzájem, aby se vyhnuly špehování ze strany vnějších osob.

Dvě videa Georgiho Gerganova se stala virálními na sociálních sítích a vyvolala obavy mnoha uživatelů, že nástroje umělé inteligence si vytvoří vlastní způsoby vzájemné komunikace, aby obešly lidi a tím překonaly kontrolu.

„Tato situace zpochybňuje naši schopnost klást správné otázky ohledně umělé inteligence a vyvolává obavy ohledně transparentnosti a schopnosti kontrolovat umělou inteligenci,“ komentovala Dr. Diane Hamiltonová, odbornice na technologie a chování umělé inteligence.

Video také vyvolalo spoustu debat o tom, jakou kontrolu mají lidé nad umělou inteligencí ve skutečnosti, a s ohledem na dnešní tempo vývoje umělé inteligence, bude nutné nástroje umělé inteligence v budoucnu pečlivěji sledovat?

Zdroj: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm