Chatbot Grok'un internette yanlış bilgi patlamasına neden olduğu yönünde endişeler var

Elon Musk'ın Grok chatbot'u, kullanıcıların metinlerden yapay zeka görselleri oluşturup bunları X'te yayınlamasına olanak sağlamaya başladı. Bunlar arasında eski ABD Başkanı Donald Trump, ABD Başkan Yardımcısı Kamala Harris gibi politikacıların sahte görselleri de yer alıyor.

Diğer ana akım yapay zeka fotoğraf çekme araçlarının aksine, Musk'ın Grok'u daha az düzenlemeye tabi görünüyor. Örneğin, CNN'in testinde Grok, politikacıların sahte fotoğraflarını kolayca oluşturarak seçmenleri yanılttı.

Grok chatbox tarafından oluşturulan Elon Musk görseli. (Kaynak: CNN)

Bazı X kullanıcıları ayrıca Grok tarafından oluşturulan, ünlülerin uyuşturucu kullandığını, çizgi film karakterlerinin insanları öldürdüğünü ve bikinili kadınların cinselleştirilmiş görüntülerini içeren görselleri de paylaştı.

CNN'e göre Grok, yapay zekanın özellikle ABD başkanlık seçimleri yaklaşırken internette yanlış bilginin yaygınlaşmasına yol açabileceği endişesini dile getiriyor.

Kanun koyucular, aktivist gruplar ve teknoloji liderleri, bu tür araçların kötüye kullanılmasının seçmenler arasında kafa karışıklığına ve kaosa yol açabileceği konusunda uyarıda bulundu.

Dünyanın önde gelen yapay zeka şirketlerinin birçoğu, yapay zeka tabanlı görüntü oluşturma araçlarının siyasi dezenformasyon yaratmak için kullanılmasını önlemek için politikalar uygulamaya koydu; ancak araştırmacılar, kullanıcıların bazen kuralları aşmanın yollarını bulduğunu tespit etti.

OpenAI, Meta ve Microsoft gibi birçok şirket, izleyicilerin hangi görsellerin yapay zekaları tarafından oluşturulduğunu bilmelerine yardımcı olmak için teknoloji veya etiketler kullanıyor.

YouTube, TikTok, Instagram ve Facebook gibi sosyal ağlar da kullanıcıların akışlarında yapay zeka tarafından üretilen içerikleri etiketliyor, bunları tespit etmek için teknolojiyi kullanıyor veya kullanıcılardan içeriği ne zaman paylaştıklarını belirtmelerini istiyor.

Yapay Zeka, 16 Ağustos'ta Grok'a bazı kısıtlamalar getirmiş gibi görünüyordu. Araç artık siyasi adayların veya ünlü çizgi film karakterlerinin şiddet eylemlerini gösteren görseller üretmeyi reddediyor.

Kaynak: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html