Yapay zeka çevrimiçi ortamda ne söyleyeceğinize karar verdiğinde

AI - Ảnh 1. — Yapay zeka, sosyal medyadaki yorumları tarıyor ve siliyor.

İnsanlar bir YouTube videosuna , Facebook gönderisine veya çevrimiçi bir makaleye yorum bıraktıklarında, yorumlarının birine ulaşıp ulaşmayacağından emin olamazlar. Bunun nedeni yazım hatası olması veya yasa dışı olması değil, otomatik bir filtreleme algoritması tarafından engellenmesidir.

Teknoloji platformları artık nefret söylemi, pornografi, şiddet ve bölücü söylemleri kaldırmak için yorum filtreleme sistemleri kullanıyor. Amaç "toplulukları güvende tutmak", ancak bu araçlar o kadar arındırıcı hale geliyor ki duyarsızlaşıyorlar mı?

Yapay zekâ konuşmanın bekçisi olduğunda

İnternetin ilk dönemlerinde "ham" yorumların serbestçe yayınlanmasına izin verilirken, günümüzde çoğu büyük platform içerik filtreleme sorumluluğunu yapay zekaya devrediyor. Makine öğrenimi sayesinde sistemler her gün milyonlarca satır metni tarayarak, dil, ton ve hatta "bağlamı" değerlendirip, içeriğin saklanıp saklanmayacağına karar verebiliyor.

Ancak bu sistem her zaman doğru sonuç vermez.

Bayan Ngoc Vy (Ho Chi Minh Şehri) şunları paylaştı: "Bir ürün hakkındaki yorumum bilinmeyen bir nedenle gizlendi. Küfür yoktu, spam yoktu, sadece birkaç saniye sonra kaybolan bir yorumdu."

Birçok içerik, tamamen normal bir bağlamda hassas kelimeler kullandıkları için kaldırılıyor. "Yoksulluk", "açlık", "politika" veya "sistem" gibi ifadeler, makine cümlenin özünü "okuyamazsa" bazen olumsuz olarak yanlış anlaşılabiliyor.

Eleştirileri filtrelemek veya ortadan kaldırmak mı?

Alman AlgorithmWatch örgütünün uyarısına göre, otomatik sansür sistemleri, özellikle dezavantajlı veya azınlık gruplarından gelen muhalif sesleri istemeden ortadan kaldırabilir; çünkü bu sistemler, kültür ve görüş çeşitliliği açısından yeterince zengin olmayan çoğunluğun davranışlarından öğrenir.

Vietnam'da, özellikle yüksek etkileşimli haber sitelerinde, sosyal medya platformları tarafından içeriklerin sıkı bir şekilde kontrol edilmesi giderek yaygınlaşıyor. Güncel ve sosyal konular hakkındaki yorumların görüntülenmesi sıklıkla kısıtlanıyor veya "önceden onaylanması" gerekiyor; bu da birçok kişinin şu soruyu sormasına neden oluyor: Siber alanda hâlâ ifade özgürlüğü var mı?

Endişe verici olan şey, kullanıcıların yorumların neden gizlendiğini veya silindiğini nadiren bilmesidir. Bildirim yok, şeffaf geri bildirim mekanizması yok. Her şey sessizce gerçekleşiyor ve algoritmalarla yönetilen bir dünyada sessizlik, sansürün en ince biçimi olabilir.

İnterneti temiz tutun ama tartışmayı çarpıtmayın.

Temiz siber alan, steril anlamına gelmemelidir. Toplum, farklı görüşlerin ifade edildiği, yapıcı, eleştirel ve tartışıldığı bir yerdir. Zehirli söylemleri filtrelemek için algoritmalara ihtiyacımız var, ancak farklı düşünme hakkını, sorgulama hakkını, rahatsızlıkları dile getirme hakkını da korumamız gerekiyor.

Her yorumun "denetlenmesi" gerektiğinde şu soruyu sormamız gerekiyor: Teknoloji toplumu koruyor mu yoksa toplumun duymasına izin verilen şeyleri mi filtreliyor?

Teknoloji, değerli kararlar alma konusunda insanların yerini alamaz. Yapay zeka çağında ise şeffaflık ve geri bildirim hakkı, tüm sistem için en adil "algoritmalardır".

Teknoloji, insanların seslerini duyurmalarına yardımcı olmalı, onlar adına ne söyleyeceklerine karar vermemeli.

TEK ZEKA

Kaynak: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm