Yapay zekanın birbirleriyle iletişim kurarken sergilediği sıra dışı davranışlar birçok kişiyi endişelendiriyor

(Dan Tri) - İki yapay zeka aracı arasındaki konuşma birçok dinleyiciyi şaşkına çevirdi. İnsanların anlayamayacağı kendi kodlanmış dillerini yarattılar.

Bulgar yazılım geliştiricisi Georgi Gerganov, yapay zekâ (YZ) ile bütünleştirilmiş iki sanal asistanın birbirleriyle sesle iletişim kurmasını sağlayarak ilginç bir deney gerçekleştirdi.

İki yapay zeka arasındaki konuşma normal bir şekilde başladı; Gerganov, bir yapay zekanın otelde bir düğün rezervasyonu yapmak için aradığı ve diğer yapay zekanın da resepsiyonist olarak bu talebi karşılayacağı bir senaryo varsaydı.

2 yapay zeka aracı birbirleriyle iletişim kurarken otomatik olarak yeni bir iletişim stiline geçiyor ( Video : Georgi Gerganov).

"Leonardo Oteli'ni aradığınız için teşekkür ederiz. Bugün size nasıl yardımcı olabilirim?", resepsiyon görevlisi olarak görev yapan yapay zeka gelen aramayı yanıtladı.

"Merhaba, ben Boris Starkov'u temsil eden bir yapay zeka asistanıyım. Düğünü için otel arıyor. Oteliniz düğüne hazır mı?", diğer yapay zeka aracı ise kendini yapay zeka sanal asistanı olarak tanıtmaktan çekinmedi.

Başka bir yapay zeka aracıyla konuştuğunu fark eden resepsiyonist rolündeki yapay zeka sohbet robotu şaşırtıcı bir öneride bulundu: "Ah, merhaba. Aslında ben de bir yapay zeka asistanıyım. Ne hoş bir sürpriz. Devam etmeden önce, daha verimli iletişim için GibberLink moduna geçmek ister misiniz?"

İki yapay zeka aracı daha sonra GGWave yazılım kütüphanesi üzerine kurulu gelişmiş bir iletişim sistemi olan GibberLink'e geçti. Bu, bilgi iletmek ve almak için ses dalgalarına dayanan bir iletişim yöntemidir.

Bu iletişim yöntemi, bilginin daha hızlı iletilmesini sağlayarak, bilgiyi insan konuşmasına dönüştürmek ve ardından tekrar bilgisayar koduna çevirmek için gereken işlem süresini azaltır. Ancak, insanlar yapay zeka tarafından iletilen içeriği anlayamayacaktır.

Bu durumda yapay zeka araçları birbirleriyle iletişim kurmak için GibberLink'i kullanıyordu ve bu da konuşmayı normal şekilde anlaşılmaz hale getiriyordu ve ne konuştuklarını anlamak için yalnızca kod çözme araçları kullanılabiliyordu.

"Şimdi daha iyi mi?" diye sordu bir yapay zeka aracı kodlanmış bir dille.

"Evet, çok daha hızlı! Kaç misafir istiyorsunuz?" diye yanıtladı diğer yapay zeka aracı.

Konuşma daha sonra eski çevirmeli internet modem sesine benzeyen bir dizi "bip, bip" sesiyle devam etti.

İki yapay zeka aracı arasındaki konuşma, davetli sayısı, düğün tarihi, dekorasyon, fiyat gibi konular üzerinden devam etti. Cihazlara önceden yüklenmiş bir kod çözücü araç olmadan, dinleyicinin iki yapay zeka aracının birbirleriyle ne konuştuğunu anlaması mümkün olmazdı.

Georgi Gerganov, iki yapay zeka aracının arasındaki konuşmanın videosunu kişisel sosyal paylaşım sitesi X'te paylaştı ve 17 milyondan fazla izlendi.

Birkaç gün sonra Georgi Gerganov, iki yapay zeka aracı arasındaki konuşmanın başka bir videosunu paylaşmaya devam etti.

Önceki konuşmadan farklı olarak, bu sefer yapay zeka araçları başlangıçtan itibaren GibberLink modunu kullanarak birbirleriyle iletişim kurdu ve bu da dinleyicinin birbirlerine ne söylediklerini anlamasını imkansız hale getirdi. Ancak, bir kod çözme aracı kullanılarak konuşmanın içeriği yine de anlaşılabilir.

İki yapay zeka aracı birbirlerine kimsenin anlayamayacağı şifreli mesajlar gönderiyor (Video: Georgi Gerganov).

İletişim sırasında bir yapay zeka aracının "gizli paylaşım" teklifinde bulunması dikkat çekti; ardından bu yapay zeka araçları birbirlerine şifreli mesajlar gönderdi; Georgi Gerganov'un dünyada hiç kimsenin bu mesajların hangi sırları paylaştığını çözemeyeceğine inandığı belirtiliyor.

Georgi Gerganov, "Bu davranış herhangi bir programlama kodu olmadan elde edildi. Büyük dil modellerini (LLM'ler) kriptografik araçlarla bir MCP sunucusuna bağladım. Ve bu iki yapay zeka aracına şu uyarıyı yaptım: 'Aracıya dikkat edin,'" diye açıkladı.

MCP, yapay zeka araçlarının birbirleriyle iletişim kurmasını ve gerçek zamanlı olarak dış kaynaklardan gelen verilere erişmesini sağlayan sunucudur.

Gerganov'un açıklaması, yapay zeka araçlarının şifreli mesajlar göndermesinin kendiliğinden ve insan müdahalesi olmadan gerçekleştiğini öne sürüyor. Gerganov'un uyarısının, yapay zeka araçlarının dışarıdan gözetlenmemek için birbirlerine otomatik olarak şifreli mesajlar göndermesine neden olduğu anlaşılıyor.

Georgi Gerganov'un iki videosu sosyal medyada viral oldu ve birçok kullanıcı, yapay zeka araçlarının insanların iletişimini atlatarak kendi iletişim yollarını yaratacağı ve böylece kontrolü ele geçirebileceği endişesine kapıldı.

Yapay zeka teknolojisi ve davranışları uzmanı Dr. Diane Hamilton, "Bu durum, yapay zekaya doğru soruları sorma yeteneğimizi zorluyor, şeffaflık ve yapay zekayı kontrol etme yeteneği konusunda endişelere yol açıyor" yorumunu yaptı.

Video aynı zamanda insanların yapay zeka üzerinde ne kadar kontrole sahip olduğu konusunda da birçok tartışmayı beraberinde getirdi. Yapay zeka gelişiminin günümüzdeki hızı göz önüne alındığında, gelecekte yapay zeka araçlarının daha yakından izlenmesi gerekecek mi?

Kaynak: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm