Yapay zekanın zihinleri okuyabileceği ve insan kararlarını manipüle edebileceği yönündeki endişeler

(CLO) Cambridge Üniversitesi'nin son araştırması endişe verici bir gerçeği ortaya çıkardı: Yapay zeka sadece bir destek aracı değil, aynı zamanda düşüncelerimizi manipüle etme, bizi teknolojik bir oyunun kuklalarına dönüştürme yeteneğine de sahip.

Araştırmacılar "niyet ekonomisi " adı verilen yeni bir kavram ortaya attılar. Bu ekonomide şirketler, davranışlarımız, tercihlerimiz ve alışkanlıklarımız hakkında büyük miktarda veri toplayıp analiz ederek bundan sonra ne yapacağımızı tahmin edebiliyor.

Daha sonra bu bilgileri, reklamlarını bize daha kesin bir şekilde hedeflemek isteyen diğer işletmelere satabilirler.

Yapay zeka, düşüncelerimizi ve eylemlerimizi şekillendirme yeteneğine sahiptir. İllüstrasyon: Yapay zeka

Örneğin, yeni bir telefon aradığınızı varsayalım. Yapay zeka, ihtiyaçlarınızı daha iyi anlamak için çevrimiçi davranışlarınızı, aradığınız anahtar kelimeleri ve hatta konuşmalarınızı izleyecektir. Telefon şirketleri daha sonra bu bilgileri kullanarak size en uygun telefonlarla ilgili reklamlar gösterebilir.

Cambridge Üniversitesi'nde teknoloji tarihçisi olan Dr. Jonnie Penn, "Dikkat edilmezse, niyet ekonomisi kararlarımızı manipüle etmek için bir araç haline gelebilir," diye uyarıyor. "Şirketler, yapay zekayı kullanarak ihtiyacımız olmayan ürünleri satın almamızı sağlayabilir, hatta oy verme kararlarımızı etkileyebilir."

Yazarlar ayrıca, bir yapay zeka modelinin reklamverenlere, işletmelere ve diğer üçüncü taraflara hizmet vermek için konuşmaları yönlendireceğini belirtti. Reklamverenler, ortaya çıkan yapay zeka araçlarını kullanarak özelleştirilmiş çevrimiçi reklamlar oluşturabilecek.

Raporda, Meta tarafından yaratılan Cicero adlı bir yapay zeka modelinin, Diplomacy adlı masa oyununu oynayabilme "insan seviyesinde" yeteneklere ulaştığına örnek veriliyor. Yazarların belirttiğine göre bu oyun, rakiplerin niyetlerini çıkarsamaya ve tahmin etmeye dayanıyor.

Teknoloji alanında önde gelen uzmanlar, yapay zekanın insan davranışlarını tahmin etme ve etkileme yeteneğine karşı uyarıda bulundu.

Özellikle, Nvidia CEO'su Jensen Huang geçen yıl yaptığı bir konuşmada dikkat çekici bir görüş paylaştı. Gelişmiş yapay zeka modellerinin "niyetlerinizi, arzularınızı, ne yapmaya çalıştığınızı anlayıp size mümkün olan en iyi şekilde bilgi sunabileceğini" savundu.

Hoang Anh (CUN, Nvidia ve Guardian'a göre)

Kaynak: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html