Yapay zeka çevrimiçi ortamda ne söyleyeceğinize karar verdiğinde

AI - Ảnh 1. — Yapay zeka sosyal medyadaki yorumları tarıyor ve siliyor

İnsanlar bir YouTube videosuna , Facebook gönderisine veya çevrimiçi bir makaleye yorum bıraktıklarında, bunun herhangi birine ulaşıp ulaşmayacağından habersizdirler. Bunun sebebi yanlış yazılmış olması veya yasa dışı olması değil, otomatik bir filtreleme algoritması tarafından engellenmiş olmasıdır.

Teknoloji platformları artık nefret söylemini, pornografiyi, şiddeti ve ayrıştırıcı söylemleri kaldırmak için yorum filtreleme sistemleri kullanıyor. Amaç "toplulukları güvende tutmak", ancak bu araçlar duyarsızlaşacak kadar arındırıcı mı?

Yapay zeka konuşmanın bekçisi olduğunda

İnternetin ilk dönemlerinde "ham" yorumların serbestçe yayınlanmasına izin verildiğinin aksine, çoğu büyük platform artık içerik filtreleme sorumluluğunu yapay zekaya devrediyor. Makine öğrenimi sayesinde sistemler, her gün milyonlarca satır metni tarayarak dili, üslubu ve hatta "bağlamı" değerlendirerek içeriğin saklanıp saklanmayacağına karar verebiliyor.

Ancak bu sistem her zaman doğru sonuç vermeyebiliyor.

Bayan Ngoc Vy (HCMC) şunları paylaştı: "Bir ürün hakkındaki yorumum bilinmeyen bir nedenden dolayı gizlendi. Küfür yok, spam yok, sadece birkaç saniye sonra kaybolan bir yorum."

Birçok içerik, yalnızca hassas kelimelerin tamamen normal bir bağlamda kullanılması nedeniyle kaldırılıyor. "Yoksulluk", "açlık", "politika" veya "sistem" gibi ifadeler, makine cümlenin ruhunu "okuyamazsa" bazen olumsuz olarak yanlış anlaşılabiliyor.

Eleştiriyi filtrelemek mi yoksa ortadan kaldırmak mı?

Alman AlgorithmWatch kuruluşunun uyarısına göre, otomatik sansür sistemleri, özellikle dezavantajlı veya azınlık gruplarından gelen muhalif sesleri istemeden ortadan kaldırabiliyor. Çünkü bu sistemler, kültür ve bakış açısı açısından yeterince çeşitli olmayan çoğunluğun davranışlarından ders çıkarıyor.

Vietnam'da, özellikle etkileşimli haber sitelerinde, sosyal medya platformlarının içerik üzerindeki sıkı kontrolü giderek yaygınlaşıyor. Güncel ve sosyal konulara ilişkin yorumların görüntülenmesi genellikle kısıtlanıyor veya "önceden onaylanması" gerekiyor. Bu da birçok kişinin şu soruyu sormasına neden oluyor: Siber alanda hala ifade özgürlüğü var mı?

Endişe verici olan şey, kullanıcıların yorumların neden gizlendiğini veya silindiğini nadiren bilmeleridir. Bildirim veya şeffaf geri bildirim mekanizmaları yoktur. Her şey sessizce gerçekleşir ve algoritmalarla yönetilen bir dünyada , sessizlik en sinsi sansür biçimi olabilir.

İnterneti temiz tutun ancak konuşmaları beyazlatmayın

Temiz siber alan, steril anlamına gelmemelidir. Toplum, farklı görüşlerin yapıcı, eleştirel ve tartışılabilir bir şekilde ifade edildiği bir yerdir. Zehirli söylemleri filtrelemek için algoritmalara ihtiyacımız var, ancak aynı zamanda farklı olma hakkını, sorgulama hakkını ve rahatsızlıkları dile getirme hakkını da korumamız gerekiyor.

Her yorumun "denetlenmesi" gerektiğinde şu soruyu sormalıyız: Teknoloji topluluğu koruyor mu, yoksa topluluğun duymasına izin verilen şeyleri filtreliyor mu?

Teknoloji, değerli kararlar almada insanların yerini alamaz. Yapay zekâ çağında ise şeffaflık ve geri bildirim hakkı, tüm sistem için en adil "algoritmalardır".

Teknolojinin insanların ne söyleyeceklerine karar vermelerine değil, konuşmalarına yardımcı olması gerekir.

TEK ZEKA

Kaynak: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm