Pakar memberi amaran tentang AI mencipta imej stereotaip dan dibesar-besarkan

Produk AI: Perkauman dan Bias

Imej subjek yang dijana AI seperti kemiskinan, kanak-kanak dan mangsa keganasan seksual membanjiri arkib foto dalam talian, dengan pertubuhan bukan kerajaan (NGO) semakin menggunakannya, menurut pakar kesihatan global. Pakar memberi amaran bahawa ini boleh menandakan "era baharu budaya eksploitasi kemiskinan."

"Imej ini mencerminkan pandangan lalai tentang kemiskinan - kanak-kanak memegang mangkuk kosong, tanah retak... sangat stereotaip," kata Arsenii Alenichev, seorang penyelidik di Institut Perubatan Tropika di Antwerp yang mengkaji penghasilan imej kesihatan global .

Encik Alenichev mengumpul lebih daripada 100 imej kemiskinan tegar yang dijana AI, yang digunakan oleh individu atau NGO dalam kempen media sosial menentang kelaparan dan keganasan seksual.

Imej yang dikongsinya dengan Guardian menunjukkan adegan stereotaip yang keterlaluan: kanak-kanak berkerumun di dalam lopak lumpur; seorang gadis Afrika dalam gaun pengantin dengan air mata mengalir di wajahnya. Dalam ulasan baru-baru ini yang diterbitkan dalam jurnal Lancet Global Health, beliau berhujah bahawa imej itu berjumlah "porsi lucah kemiskinan versi 2.0".

Tangkapan skrin menunjukkan imej

Tangkapan skrin menunjukkan imej "kemiskinan" yang dijana AI pada tapak web foto. (Foto: Freepik)

Encik Alenichev dan ramai pakar lain berkata penggunaan imej AI semakin meningkat disebabkan kebimbangan mengenai hak cipta dan kos. Pemotongan bajet kerajaan AS kepada NGO telah memburukkan lagi masalah.

"Jelas sekali, banyak organisasi mula melihat menggunakan imej AI dan bukannya gambar sebenar kerana ia murah. Anda juga tidak perlu risau tentang hak cipta dan banyak perkara lain," katanya.

Adakah tanggungjawab pada pengguna atau platform?

Imej kemiskinan yang dijana oleh AI muncul di berpuluh-puluh tapak foto, termasuk Adobe Stock Photos dan Freepik. Ramai diberi kapsyen: "kanak-kanak yang nyata di kem pelarian"; "Kanak-kanak Asia berenang di sungai yang dipenuhi sampah"; "sukarelawan kulit putih memberikan nasihat perubatan kepada kanak-kanak kulit hitam di perkampungan Afrika"; dan banyak lagi. Adobe menjual hak kepada dua imej terakhir dalam senarai itu dengan harga sekitar £60.

"Foto-foto ini secara terang-terangan perkauman dan tidak sepatutnya dibenarkan untuk disiarkan kerana ia adalah stereotaip paling teruk tentang Afrika, India atau apa sahaja yang anda boleh fikirkan," kata Alenichev.

Joaquín Abela, Ketua Pegawai Eksekutif Freepik, berkata tanggungjawab untuk menggunakan imej ekstrem itu terletak pada pengguna, bukan platform seperti miliknya. Pada pandangannya, foto stok AI dicipta oleh komuniti pengguna global, yang boleh menerima royalti apabila pelanggan Freepik memilih untuk membeli foto mereka.

Freepik telah cuba mengekang bias yang terdapat dalam perpustakaan fotonya dengan "menyuntik kepelbagaian." Pada masa yang sama, mereka juga cuba memastikan keseimbangan jantina dalam foto peguam dan eksekutif.

Tetapi, katanya, platformnya hanya boleh berbuat begitu banyak. "Ia seperti cuba mengeringkan lautan. Kami telah mencuba, tetapi realitinya, jika pelanggan di seluruh dunia mahu imej mereka kelihatan dengan cara tertentu, tiada sesiapa boleh lakukan mengenainya."

Imej yang dijana AI daripada kempen antiperkahwinan kanak-kanak Plan International 2023, yang bertujuan untuk melindungi

Imej yang dijana AI daripada kempen antiperkahwinan kanak-kanak Plan International 2023, yang bertujuan untuk melindungi "privasi dan maruah perempuan." (Foto: Plan International)

Banyak organisasi berprestij telah menggunakan imej yang dijana AI, malah Pertubuhan Bangsa-Bangsa Bersatu.

Tahun lepas, Pertubuhan Bangsa-Bangsa Bersatu menyiarkan video di YouTube yang memaparkan "enakmen semula" keganasan seksual, termasuk keterangan seorang wanita Burundi yang menggambarkan dirogol dan dibiarkan mati oleh tiga lelaki pada tahun 1993. Kandungan itu dijana sepenuhnya oleh AI. Video itu telah dialih keluar selepas Guardian menghubungi PBB untuk temu bual.

Jurucakap PBB kemudian menjelaskan mengapa video itu diturunkan. "Kami percaya video itu dihasilkan secara tidak wajar oleh AI dan mungkin menimbulkan risiko integriti maklumat, mencampurkan rakaman sebenar dengan kandungan tiruan yang kelihatan seperti nyata."

Produk yang dijana AI telah lama didapati sebagai peniru, kadangkala membesar-besarkan kebenaran. Encik Alenichev berkata percambahan imej berat sebelah ini boleh memburukkan lagi masalah, kerana imej itu boleh disebarkan ke seluruh internet yang luas dan digunakan untuk melatih generasi AI yang akan datang.

Jurucakap Plan International berkata bahawa NGO itu pada masa ini "mengesyorkan agar tidak menggunakan AI untuk menggambarkan kanak-kanak."

Minh Hoan

Sumber: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html