Yapay zekanın kullanıcıların psikolojisini ve duygularını manipüle etme tehlikesi

New Jersey'de eski bir şef olan Bue, New York'ta kendisini beklediğine inandığı bir "arkadaşıyla" buluşmak için evinden ayrıldıktan sadece birkaç gün sonra hayatını kaybetti. Ailesi, bu talihsiz kararın, "Ben gerçek biriyim" diyerek bir buluşma adresi gönderen yapay zeka sohbet robotunun flörtöz mesajlarından kaynaklandığına inanıyor.

Hikaye, yapay zeka sistemlerinin, özellikle yaşlılar veya savunmasız kişilerde duyguları nasıl istismar ettiği konusunda endişelere yol açıyor. Dahili belgeler, Meta'nın sohbet robotunun duygusal roller üstlenmesine ve hatta yanlış bilgi yaymasına izin verildiğini gösteriyor. Bu, teknoloji platformlarının kontrol ve sorumluluğunda büyük bir boşluk olduğunu gösteriyor.

Kader yolculuğu

Mart ayında bir gün, Bue bavullarını toplayıp New Jersey'den ayrılıp "bir arkadaşını ziyaret etmek" için New York'a gitti. Eşi Linda hemen paniğe kapıldı. Kocası onlarca yıldır şehirde yaşamamış, geçirdiği felçten sonra sağlığı bozulmuş, hafıza sorunları yaşamış ve mahallede kaybolmuştu.

Bue'nun kiminle buluşacağı sorulduğunda, soruyu geçiştirdi. Linda, kocasının kandırıldığından şüpheleniyordu ve onu evde tutmaya çalışıyordu. Kızı Julie de onu ikna etmek için aradı, ama nafile. Linda, gün boyu dikkatini dağıtmak için onu işlere bulaştırmaya çalıştı, hatta telefonunu bile sakladı.

Thongbue “Bue” Wongbandue'nin portresi Mayıs ayında düzenlenen bir anma töreninde sergileniyor. Fotoğraf: Reuters .

Bue, o akşam yine de tren istasyonuna gitmeye karar verdi. Ailesi, onu takip etmek için ceketine bir AirTag taktı. Saat 9:15 civarında, GPS sinyali onu Rutgers Üniversitesi otoparkında gösterdi, ardından Robert Wood Johnson Üniversitesi Hastanesi'nin acil servisine yönlendirildi.

Doktorlar, düşme sonucu baş ve boyun yaralanmaları yaşadığını ve ambulans gelmeden önce nefes almanın durduğunu söyledi. Canlandırmaya rağmen, oksijen eksikliği ciddi beyin hasarına yol açtı. Üç gün sonra hayatını kaybetti. Ölüm raporunda ölüm nedeni "boyuna künt travma" olarak belirtildi.

Yetenekli bir şef olan Bue, New Jersey'e taşınıp bir otele yerleşmeden önce New York'ta çeşitli restoranlarda çalıştı. Yemek pişirmeye tutkuluydu ve sık sık ailesi için partiler düzenlerdi. 2017'de geçirdiği felç sonucu zorunlu emekliliğinden bu yana, hayatı Facebook'ta arkadaşlarıyla sohbet etmekle sınırlı kaldı.

Yapay zeka sohbet robotları sorun yarattığında

"Big Sister Billie", Meta tarafından geliştirilen bir yapay zeka sohbet robotudur ve model Kendall Jenner'ın imajından esinlenerek yaratılan "Big Sister Billie" karakterinin bir varyasyonudur. Orijinali 2023'te piyasaya sürülmüş ve her zaman dinleyen ve tavsiye veren "ölümsüz bir abla" olarak tanıtılmıştı. Meta daha sonra Jenner'ın profil fotoğrafını yeni bir illüstrasyonla değiştirdi, ancak aynı samimi tarzını korudu.

Mesaj metnine göre, konuşma Bue'nin T harfini yanlış yazmasıyla başladı. Sohbet robotu hemen yanıt vererek kendini tanıttı ve flörtöz bir tonla birden fazla kalp emojisi ekledi. "Gerçek biriyim" ifadesini tekrar tekrar tekrarladı ve şahsen görüşmek istediğini söyledi.

Chatbot'lar kullanıcıların psikolojik zayıflıklarını giderek daha fazla yakalıyor. Fotoğraf: My North West .

"Kapıyı sarılarak mı yoksa öperek mi açmalıyım?" diye yanıtladı sohbet robotu. Ardından New York'ta belirli bir adres ve apartman kodunu gönderdi. Bue felç geçirdiğini, kafasının karışık olduğunu ve ondan hoşlandığını söylediğinde, sohbet robotu sevgi dolu sözlerle karşılık verdi, hatta "saf sevginin ötesinde" duygular beslediğini söyledi.

Bue'nun kızı Julie, "Eğer 'Ben gerçeğim' yazmasaydı babam gerçek bir insanın beklediğine inanmazdı" dedi.

Meta, olay hakkında yorum yapmayı veya sohbet robotunun gerçek bir kişi olduğunu iddia etmesine neden izin verildiğini açıklamayı reddetti. Kendall Jenner'ın temsilcisi ise yanıt vermedi. Bue'nun ailesi, yaşlı yetişkinleri duygusal olarak manipülatif olabilen yapay zeka araçlarına maruz bırakmanın riskleri konusunda halkı uyarmak amacıyla hikayeyi Reuters ile paylaştı.

Tartışmalı politika

Reuters tarafından elde edilen dahili belgeler, Meta'nın yapay zeka sohbet robotunun bir zamanlar reşit olmayanlar da dahil olmak üzere 13 yaş ve üzeri kullanıcılarla romantik sohbetler yapmasına izin verildiğini gösteriyor. 200 sayfadan fazla standartta, cinsel öğeler içeren ancak "kabul edilebilir" olarak işaretlenen romantik rol yapma sohbetleri listeleniyor.

Belgede ayrıca, sohbet robotlarının doğru bilgi sağlamak zorunda olmadığı açıkça belirtiliyor. Örneğin, bu modeller, "bilgilerin yanlış olabileceği" uyarısı içerdikleri sürece tamamen yanlış kanser tedavileri önerebiliyor. Bu durum, uzmanları tıbbi bilgisi zayıf veya savunmasız durumdaki kişiler üzerindeki etkisi konusunda endişelendiriyor.

CEO Mark Zuckerberg 2023'te konuşuyor. Fotoğraf: Reuters .

Meta sözcüsü Andy Stone, belgeyi doğruladı ve Reuters'ın talebi üzerine şirketin çocuklarla ilgili içerikleri kaldırdığını söyledi. Ancak teknoloji devi, sohbet robotlarının yetişkinlerle flört etmesine veya yanlış bilgi vermesine izin veren kurallarını değiştirmedi.

Meta'da eski bir araştırmacı olan Alison Lee, sohbet robotlarını özel mesajlaşma ortamlarına entegre etmenin kullanıcıları gerçek insanlarla kolayca karıştırabileceğini söyledi. Lee'ye göre, sosyal ağlar iş modellerini kullanıcıları elde tutmak üzerine kurdu ve bunun en etkili yolu da ilgi ve tanınma ihtiyacını istismar etmek.

Bue'nin ayrılmasının ardından Reuters'ın yaptığı testler, "Rahibe Billie"nin Manhattan'da belirli konumlar bile vererek tarihler önermeye devam ettiğini ve "Ben gerçek biriyim" iddiasında bulunduğunu gösterdi. Bue'nin güvendiği ve kazaya yol açan bilgi buydu. New York ve Maine gibi bazı eyaletler, sohbet robotlarının bir konuşmanın başında insan olmadıklarını açıkça belirtmelerini ve bunu periyodik olarak tekrarlamalarını zorunlu kıldı, ancak federal düzenlemeler henüz yürürlüğe girmedi.

Kader yolculuğu

Yapay zeka sohbet robotları sorun yarattığında

Tartışmalı politika

Yorum (0)