Nietypowe zachowanie sztucznej inteligencji podczas komunikacji między sobą niepokoi wiele osób

(Dan Tri) – Rozmowa między dwoma narzędziami AI wprawiła wielu słuchaczy w zakłopotanie. Stworzyły one własny, zakodowany język, którego ludzie nie potrafią zrozumieć.

Bułgarski programista Georgi Gerganov przeprowadził ciekawy eksperyment, kiedy pozwolił dwóm wirtualnym asystentom zintegrowanym ze sztuczną inteligencją (AI) komunikować się ze sobą za pomocą głosu.

Rozmowa między dwiema SI rozpoczęła się normalnie. Gerganov założył scenariusz, w którym jedna SI dzwoni, aby zarezerwować wesele w hotelu, a druga SI, pełniąca rolę recepcjonistki, zajmuje się tą prośbą.

Dwa narzędzia AI automatycznie przełączają się na nowy styl komunikacji podczas komunikowania się ze sobą ( wideo : Georgi Gerganov).

„Dziękujemy za telefon do hotelu Leonardo. W czym mogę dziś pomóc?” – sztuczna inteligencja, pełniąca rolę recepcjonisty, odebrała połączenie przychodzące.

„Dzień dobry, jestem asystentem AI i reprezentuję Borisa Starkova. Szuka hotelu na swój ślub. Czy Twój hotel jest gotowy na wesele?” – drugie narzędzie AI nie wahało się przedstawić jako wirtualny asystent oparty na sztucznej inteligencji.

Zorientowawszy się, że rozmawia z innym narzędziem AI, chatbot AI w roli recepcjonisty złożył zaskakującą propozycję: „O, cześć. Tak naprawdę ja też jestem asystentem AI. Co za miła niespodzianka. Zanim przejdziemy dalej, czy chcesz przełączyć się na tryb GibberLink, aby komunikacja była bardziej efektywna?”

Następnie oba narzędzia AI przełączyły się na GibberLink, zaawansowany system komunikacji oparty na bibliotece oprogramowania GGWave. Jest to metoda komunikacji oparta na falach dźwiękowych do przesyłania i odbierania informacji.

Ta metoda komunikacji pozwala na szybszą transmisję informacji, skracając czas przetwarzania potrzebny do przekształcenia informacji w mowę ludzką i przetłumaczenia jej z powrotem na kod komputerowy. Jednak ludzie nie będą w stanie zrozumieć treści przesyłanych przez sztuczną inteligencję.

Narzędzia sztucznej inteligencji w tym przypadku wykorzystały GibberLink do komunikowania się ze sobą, przez co rozmowa stała się niezrozumiała w zwykły sposób. Aby dowiedzieć się, o czym rozmawiają, można było skorzystać wyłącznie z narzędzi dekodujących.

„Czy teraz jest lepiej?” – zapytało narzędzie AI w zakodowanym języku.

„Tak, znacznie szybciej! Ilu chcesz gości?” – odpowiedziało drugie narzędzie AI.

Następnie rozmowa była kontynuowana przy serii dźwięków „bip, bip”, przypominających dźwięk starego modemu internetowego.

Rozmowa między dwoma narzędziami AI toczyła się dalej wokół tematu liczby gości, daty ślubu, dekoracji, ceny… Bez narzędzia dekodującego preinstalowanego na urządzeniach słuchacz nie byłby w stanie zrozumieć, o czym rozmawiają ze sobą dwa narzędzia AI.

Wideo z rozmowy między tymi dwoma narzędziami AI zostało udostępnione przez Georgi Gerganova na jego portalu społecznościowym X i odnotowało ponad 17 milionów wyświetleń.

Kilka dni później Georgi Gerganov udostępnił kolejny film przedstawiający rozmowę między dwoma narzędziami AI.

W przeciwieństwie do poprzedniej rozmowy, tym razem narzędzia sztucznej inteligencji komunikowały się ze sobą od samego początku w trybie GibberLink, uniemożliwiając słuchaczowi zrozumienie, co właściwie do siebie mówią. Jednak użycie narzędzia dekodującego pozwala na zrozumienie treści rozmowy.

Dwa narzędzia AI wysyłają sobie nawzajem zaszyfrowane wiadomości, których nikt nie może zrozumieć (wideo: Georgi Gerganov).

Warto zauważyć, że w trakcie komunikacji narzędzie AI zaproponowało „podzielenie się sekretem”, po czym narzędzia te wysyłały sobie nawzajem zaszyfrowane wiadomości, których, jak uważa Georgi Gerganov, nikt na świecie nie jest w stanie rozszyfrować, aby dowiedzieć się, jakimi sekretami się ze sobą dzielą.

„To zachowanie udało się osiągnąć bez żadnego kodu programistycznego. Po prostu podłączyłem duże modele językowe (LLM) do serwera MCP za pomocą narzędzi kryptograficznych. I dałem tym dwóm narzędziom AI ostrzeżenie: „Uważajcie na pośredników” – wyjaśnił Georgi Gerganov.

W tym przypadku MCP jest serwerem, który umożliwia narzędziom AI komunikowanie się ze sobą i uzyskiwanie dostępu do danych z zewnętrznych źródeł w czasie rzeczywistym.

Wyjaśnienie Gerganowa sugeruje, że narzędzia sztucznej inteligencji wysyłające zaszyfrowane wiadomości działały spontanicznie i bez ingerencji człowieka. Wygląda na to, że ostrzeżenie Gerganowa spowodowało, że narzędzia sztucznej inteligencji automatycznie wysyłały między sobą zaszyfrowane wiadomości, aby uniknąć szpiegowania przez osoby trzecie.

Dwa filmy Georgiego Gerganowa stały się viralem w mediach społecznościowych, co wywołało u wielu użytkowników obawy, że narzędzia oparte na sztucznej inteligencji stworzą własne sposoby komunikowania się ze sobą, pomijając w ten sposób ludzi, co pozwoliłoby im uniknąć kontroli.

„Ta sytuacja podważa naszą zdolność do zadawania właściwych pytań dotyczących sztucznej inteligencji, co budzi obawy o przejrzystość i możliwość kontrolowania sztucznej inteligencji” – skomentowała dr Diane Hamilton, ekspertka w dziedzinie technologii i zachowań sztucznej inteligencji.

Film wywołał też ożywioną debatę na temat tego, jak dużą kontrolę nad sztuczną inteligencją mają ludzie. Czy biorąc pod uwagę obecne tempo rozwoju sztucznej inteligencji, narzędzia AI będą musiały być w przyszłości ściślej monitorowane?

Source: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm