Sosyal medya, yapay zeka ve amplifikasyon algoritmaları: Dünyayı altüst eden "atomik" kombinasyon

Nefret Tahrik Algoritması

Sosyal medya algoritmaları artık sadece eğlenceli içerikler önermekle kalmıyor, aynı zamanda nefret söylemini ve aşırılıkçı ideolojiyi de güçlendiriyor. BM Genel Sekreteri Antonio Guterres, bazı sosyal medya platformlarının nefret söylemi ve dezenformasyonla dolu "zehirli çöplüklere" dönüştüğü ve aşırılığın yayılmasını körüklediği konusunda uyardı.

Gerçek dünya çalışmaları, öneri algoritmalarının yalnızca birkaç gün içinde sorunu daha da kötüleştirebileceğini gösteriyor. Örneğin, Birleşik Krallık'ta yapılan bir araştırma, TikTok algoritmasının yalnızca beş gün içinde videolardaki kadın düşmanı içerik önerilerini %13'ten %56'ya çıkararak dört katına çıkardığını ortaya koydu.

Araştırmacılar, algoritmanın otomatik olarak kullanıcıların zayıf noktalarını (yalnızlık, kontrol kaybı, nefret gibi duygular) hedef aldığını ve aşırı içerikleri izleyici çekmek için çekici bir "eğlenceye" dönüştürdüğünü açıklıyor.

Artık sosyal medyada, en ufak bir bilgi parçası veya asılsız söylentiler bile kolayca şiddete yol açabiliyor. Tipik bir örnek, 2024'te Birleşik Krallık'ta yaşanan ayaklanmalar. Southport saldırısının ardından, şüphelinin Müslüman veya mülteci olduğu yönündeki asılsız söylentiler, Müslüman ve göçmen karşıtı söylemlerle birlikte sosyal medyada hızla yayıldı. ABD Genel Muhasebe Ofisi'nin (GAO) 2024 tarihli bir raporuna göre, internet kullanıcılarının neredeyse üçte biri çevrimiçi nefret söylemine maruz kaldı.
Özellikle son dönemde Asya'dan Afrika'ya, Latin Amerika'ya kadar farklı ülkelerde Z kuşağının veya öğrencilerin başlattığı bir dizi ciddi protesto, isyan, hepsi sosyal medya platformları üzerinden başlatılıp kışkırtıldı ve neredeyse aynı senaryoyla: bir konuyu istismar edip sonra tüm toplumu kışkırtmak.

O fethetti — Yapay zeka yazılımları ve amplifikasyon algoritmaları hem sanal hem de gerçek dünyaları manipüle ediyor. İllüstrasyon: Nafets

Dünyanın büyük bir kısmı "illüzyon"un içinde

Yapay zekânın patlamasıyla işler kontrolden çıkıyor ve neredeyse herkes benzeri görülmemiş bir ölçek ve hızda bir "sahte haber fabrikası" yaratabiliyor. GPT, Claude veya LLaMA gibi yapay zekâ modelleri, saniyenin çok küçük bir kısmında otomatik olarak bir dizi çarpıtılmış makale, resim ve video üretebiliyor. Bir yapay zekâ bot sistemi, aynı anda binlerce gönderi veya yorum oluşturup paylaşarak sahte ve zehirli haberleri çevrimiçi "trendlere" dönüştürebiliyor.

ABD'deki RIT Üniversitesi'nin yaptığı bir araştırmada şu iddia ortaya atıldı: "Yapay zeka, her türlü yanlış bilgiyi çok hızlı bir şekilde yayma yeteneğine sahip... Yapay zeka robotları, bu içerikleri internette yayabiliyor çünkü bunları oluşturmak için insanlara bağımlı olmaları gerekmiyor."

Günümüzde, bir yapay zeka aracı için ayda sadece birkaç düzine dolar harcayarak, bir kişi seslerden fotoğraflara ve videolara kadar her şeyin binlerce sahte görselini ve videosunu oluşturabilir. Bu teknolojinin gelişmişlik düzeyi ve yaygınlığı o kadar yüksek ki, bugün hepimizin aklında bir düşünce var: Sosyal medyada gördüklerimiz yapay zeka tarafından mı üretildi?

Ancak ironik olan şu ki, dünyanın büyük bir kısmı her gün saatlerce bu "sanal" dünyaya dalmış durumda; hatta bundan bir "bağımlılık" gibi keyif alıyor. Dijital 2025 raporuna göre, yaklaşık 5,2 ila 5,6 milyar insan sosyal ağları kullanıyor; bu da küresel nüfusun %64'üne denk geliyor. Her bir kişinin sosyal ağları kullandığı ortalama süre ise günde yaklaşık 2 saat 20 dakika civarında değişiyor.

"Atom" bombalarını kontrol altına almamız gerekiyor

Sahte haber ve dezenformasyon giderek daha ucuz ve tehlikeli bir oranda üretilirken, internetteki içeriklerin kontrolü neredeyse insan kontrolünden çıktı. King's College London'dan (İngiltere) teknoloji uzmanı Lukasz Olejnik, "Her ay [sahte haber] fabrikaları daha ucuz, daha keskin ve tespit edilmesi daha zor hale geliyor." yorumunu yaptı.

Bu arada, 2024 yılında yapılan bir RAND araştırması, yapay zekanın interneti sahte sosyal medya hesaplarıyla "doldurma" ihtimalinin açık ve neredeyse kaçınılmaz olduğunu, herhangi bir değişiklik olmadan ortaya çıkacağını belirtti.

Nükleer teknoloji, tıpkı sosyal medya gibi, bir zamanlar insanlığın büyük bir icadıydı. Ancak, kontrol altına alınmazsa felakete yol açabilirdi. Benzer şekilde, sosyal medya, yapay zekâ ve amplifikasyon algoritmaları kontrolden çıkarsa, siber uzayda "atom bombaları" tetikleyebilir ve gerçek dünyayı yok edecek kadar güçlü hale gelebilirler.

Source: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html