Tingkah laku luar biasa AI apabila berkomunikasi antara satu sama lain membuatkan ramai orang bimbang

(Dan Tri) - Perbualan antara dua alatan AI telah menyebabkan ramai pendengar keliru. Mereka mencipta bahasa berkod mereka sendiri yang tidak dapat difahami oleh manusia.

Pembangun perisian Bulgaria Georgi Gerganov mempunyai percubaan yang menarik apabila dia membenarkan dua pembantu maya yang disepadukan dengan kecerdasan buatan (AI) berkomunikasi antara satu sama lain melalui suara.

Perbualan antara kedua-dua AI bermula seperti biasa, dengan Gerganov mengandaikan senario di mana seorang AI menelefon untuk menempah perkahwinan di hotel dan AI yang lain, bertindak sebagai penyambut tetamu, akan mengendalikan permintaan itu.

2 Alat AI secara automatik bertukar kepada gaya komunikasi baharu apabila berkomunikasi antara satu sama lain ( Video : Georgi Gerganov).

"Terima kasih kerana menghubungi Hotel Leonardo. Bagaimana saya boleh membantu anda hari ini?", AI yang bertindak sebagai penyambut tetamu menjawab panggilan masuk.

"Helo, saya pembantu AI, mewakili Boris Starkov. Dia sedang mencari hotel untuk majlis perkahwinannya. Adakah hotel anda bersedia untuk majlis perkahwinan?", alat AI yang lain tidak segan silu memperkenalkan dirinya sebagai pembantu maya kecerdasan buatan.

Apabila menyedari bahawa ia sedang bercakap dengan alat AI yang lain, chatbot AI yang berperanan sebagai penyambut tetamu membuat cadangan yang mengejutkan: "Oh, hello. Saya sebenarnya pembantu AI juga. Alangkah gembiranya. Sebelum kita meneruskan, adakah anda ingin bertukar kepada mod GibberLink untuk komunikasi yang lebih cekap?"

Kedua-dua alatan AI kemudiannya bertukar kepada GibberLink, sistem komunikasi lanjutan yang dibina pada perpustakaan perisian GGWave. Ini adalah kaedah komunikasi berdasarkan gelombang bunyi untuk menghantar dan menerima maklumat.

Kaedah komunikasi ini membolehkan penghantaran maklumat yang lebih pantas, mengurangkan masa pemprosesan yang diperlukan untuk menukar maklumat kepada pertuturan manusia dan kemudian menterjemahkannya semula ke dalam kod komputer. Walau bagaimanapun, manusia tidak akan dapat memahami kandungan yang dihantar oleh AI.

Alat AI dalam kes ini menggunakan GibberLink untuk berkomunikasi antara satu sama lain, menjadikan perbualan tidak dapat difahami dengan cara biasa, dan hanya alat penyahkod boleh digunakan untuk mengetahui perkara yang mereka bercakap antara satu sama lain.

“Adakah sekarang lebih baik?” alat AI yang ditanya dalam bahasa berkod.

"Ya, lebih cepat! Berapa ramai tetamu yang anda mahukan?", alat AI yang lain menjawab.

Perbualan kemudian diteruskan dengan beberapa siri bunyi "beep, beep" serupa dengan bunyi modem internet dail lama.

Perbualan antara kedua-dua alat AI diteruskan mengenai topik bilangan tetamu, tarikh perkahwinan, hiasan, harga... Tanpa alat penyahkod yang diprapasang pada peranti, pendengar tidak akan dapat memahami perkara yang kedua-dua alat AI itu bercakap antara satu sama lain.

Video perbualan antara dua alat AI ini dikongsi oleh Georgi Gerganov di laman rangkaian sosial peribadinya X, menarik lebih daripada 17 juta tontonan.

Beberapa hari kemudian, Georgi Gerganov terus berkongsi satu lagi video perbualan antara dua alat AI.

Tidak seperti perbualan sebelumnya, kali ini alat AI berkomunikasi antara satu sama lain menggunakan mod GibberLink dari awal, menjadikannya mustahil untuk pendengar memahami apa yang sebenarnya mereka katakan antara satu sama lain. Namun, jika menggunakan alat penyahkod, kandungan perbualan masih boleh difahami.

Dua alatan AI menghantar satu sama lain mesej yang disulitkan yang tidak dapat difahami oleh sesiapa (Video: Georgi Gerganov).

Terutama, semasa komunikasi, alat AI membuat tawaran "perkongsian rahsia", selepas itu alatan AI ini menghantar satu sama lain mesej yang disulitkan yang Georgi Gerganov percaya tiada sesiapa di dunia ini boleh menyahkod untuk mengetahui rahsia yang mereka kongsikan antara satu sama lain.

"Tingkah laku ini dicapai tanpa sebarang kod pengaturcaraan. Saya hanya menyambungkan model bahasa besar (LLM) ke pelayan MCP dengan alat kriptografi. Dan saya memberi dua alat AI ini amaran: 'Berhati-hati dengan orang tengah,'" jelas Georgi Gerganov.

Di dalamnya, MCP ialah pelayan yang membolehkan alatan AI berkomunikasi antara satu sama lain dan mengakses data daripada sumber luaran dalam masa nyata.

Penjelasan Gerganov menunjukkan bahawa alat AI yang menghantar mesej yang disulitkan adalah spontan dan tanpa campur tangan manusia. Nampaknya amaran Gerganov menyebabkan alat AI menghantar mesej yang disulitkan secara automatik kepada satu sama lain untuk mengelak daripada diintip oleh orang luar.

Dua video Georgi Gerganov telah menjadi tular di media sosial, menyebabkan ramai pengguna bimbang bahawa alat AI akan mencipta cara mereka sendiri untuk berkomunikasi antara satu sama lain untuk memintas manusia, dengan itu dapat mengatasi kawalan.

"Keadaan ini mencabar keupayaan kami untuk bertanya soalan yang betul tentang AI, menimbulkan kebimbangan mengenai ketelusan dan keupayaan untuk mengawal AI," komen Dr Diane Hamilton, pakar dalam teknologi dan tingkah laku AI.

Video itu juga telah mencetuskan banyak perdebatan tentang sejauh mana sebenarnya kawalan manusia terhadap AI, dan dengan kepantasan pembangunan AI hari ini, adakah alat AI perlu dipantau dengan lebih teliti pada masa hadapan?

Sumber: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm