Uzmanlar yapay zekanın basmakalıp, abartılı görüntüler yarattığı konusunda uyarıyor

Yoksulluk konusuyla ilgili görseller aradığınızda, yapay zekanın yarattığı, perişan haldeki Afrikalı çocukların, çöp dolu nehirlerde yüzen Asyalı çocukların çok sayıda resmine ulaşabilirsiniz.

Yapay Zeka Ürünleri: Irkçılık ve Önyargı

Küresel sağlık uzmanlarına göre, yoksulluk, çocuklar ve cinsel şiddet mağdurları gibi kişilerin yapay zeka tarafından üretilen görüntüleri çevrimiçi fotoğraf arşivlerini dolduruyor ve sivil toplum kuruluşları (STK'lar) bunları giderek daha fazla kullanıyor. Uzmanlar, bunun "yoksulluk istismarı kültüründe yeni bir çağın" habercisi olabileceği konusunda uyarıyor.

Antwerp Tropikal Tıp Enstitüsü'nde küresel sağlık görüntülerinin üretimini inceleyen araştırmacı Arsenii Alenichev, "Bu görüntüler yoksulluğun varsayılan görünümünü yansıtıyor; çocuklar boş kaseler tutuyor, zemin çatlamış... çok klişe," dedi.

Bay Alenichev, açlık ve cinsel şiddete karşı sosyal medya kampanyalarında bireyler veya STK'lar tarafından kullanılan 100'den fazla yapay zeka tarafından oluşturulmuş aşırı yoksulluk görseli topladı.

The Guardian'a paylaştığı görüntüler abartılı, basmakalıp sahneler içeriyor: çamur birikintilerinde bir araya toplanmış çocuklar; gelinlik giymiş, yüzünden yaşlar akan Afrikalı bir kız. Lancet Global Health dergisinde yayınlanan son yorumunda, görüntülerin "yoksulluk pornosunun 2.0 versiyonu" olduğunu savundu.

Bir fotoğraf sitesinde yapay zeka tarafından oluşturulan "yoksulluk" görselini gösteren ekran görüntüsü. (Fotoğraf: Freepik)

Bay Alenichev ve diğer birçok uzman, telif hakkı ve maliyet endişeleri nedeniyle yapay zeka görsellerinin kullanımının arttığını söylüyor. ABD hükümetinin STK'lara yaptığı bütçe kesintileri sorunu daha da kötüleştirdi.

"Açıkçası, birçok kuruluş gerçek fotoğraflar yerine yapay zeka destekli görseller kullanmaya başlıyor çünkü bu ucuz. Ayrıca telif hakkı ve diğer birçok şey konusunda endişelenmenize gerek kalmıyor," dedi.

Sorumluluk kullanıcıda mı yoksa platformda mı?

Yapay zeka tarafından üretilen yoksulluk görüntüleri, Adobe Stock Photos ve Freepik de dahil olmak üzere düzinelerce fotoğraf sitesinde yer alıyor. Birçoğunun altında şu başlıklar yer alıyor: "Mülteci kampında gerçeküstü çocuk"; "Çöp dolu bir nehirde yüzen Asyalı çocuklar"; "Afrika köyünde siyah çocuklara tıbbi tavsiye veren beyaz gönüllü" ve daha fazlası. Adobe, listedeki son iki görüntünün haklarını yaklaşık 60 sterline satıyor.

Alenichev, "Bu fotoğraflar açıkça ırkçıdır ve Afrika, Hindistan veya aklınıza gelebilecek herhangi bir şey hakkında en kötü klişeleri içerdiği için yayınlanmasına izin verilmemelidir" dedi.

Freepik CEO'su Joaquín Abela, bu tür ekstrem görsellerin kullanımının sorumluluğunun kendi platformları değil, kullanıcılarda olduğunu söyledi. Ona göre, yapay zeka stok fotoğrafları, Freepik müşterileri fotoğraflarını satın almayı seçtiğinde telif hakkı alabilen küresel bir kullanıcı topluluğu tarafından oluşturuluyor.

Freepik, fotoğraf arşivlerinde bulunan önyargıları "çeşitlilik aşılayarak" azaltmaya çalışıyor. Aynı zamanda avukat ve yöneticilerin fotoğraflarında cinsiyet dengesini sağlamaya çalışıyorlar.

Ancak platformunun ancak bu kadarını başarabileceğini söylüyor. "Bu, okyanusu kurutmaya çalışmak gibi. Denedik ama gerçek şu ki, dünyanın dört bir yanındaki müşteriler fotoğraflarının belirli bir şekilde görünmesini istiyorsa, kimsenin bu konuda yapabileceği hiçbir şey yok."

Plan International adlı yardım kuruluşunun "kız çocuklarının mahremiyetini ve onurunu" korumayı amaçlayan 2023 çocuk evliliğine karşı kampanyasından yapay zeka ile oluşturulmuş görüntü. (Fotoğraf: Plan International)

Birleşmiş Milletler de dahil olmak üzere pek çok saygın kuruluş yapay zekayla üretilen görüntüleri kullanıyor.

Birleşmiş Milletler geçen yıl YouTube'da cinsel şiddetin "canlandırmalarını" içeren bir video yayınladı. Videoda, 1993 yılında üç erkek tarafından tecavüze uğrayıp ölüme terk edildiğini anlatan Burundili bir kadının ifadesi de yer alıyordu. İçerik tamamen yapay zeka tarafından oluşturulmuştu. Guardian'ın BM ile röportaj için iletişime geçmesinin ardından video kaldırıldı.

BM sözcüsü daha sonra videonun neden kaldırıldığını açıkladı. "Videonun yapay zeka tarafından uygunsuz bir şekilde oluşturulduğuna ve gerçek görüntüleri gerçek gibi görünen yapay içeriklerle karıştırarak bilgi bütünlüğü riskleri oluşturabileceğine inanıyoruz."

Yapay zeka tarafından üretilen ürünlerin uzun zamandır taklitçi olduğu ve bazen gerçeği abarttığı tespit edildi. Bay Alenichev, bu önyargılı görsellerin yaygınlaşmasının sorunu daha da kötüleştirebileceğini, çünkü görsellerin geniş internet ağına yayılıp yeni nesil yapay zekayı eğitmek için kullanılabileceğini söyledi.

Plan International'ın sözcüsü, STK'nın şu anda "çocukları tasvir etmek için yapay zekanın kullanılmamasını önerdiğini" söyledi.

Minh Hoan

Kaynak: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html