Para ahli memperingatkan bahwa AI menciptakan citra stereotip dan berlebihan

Produk AI: Rasisme dan Bias

Citra hasil rekayasa AI tentang subjek-subjek seperti kemiskinan, anak-anak, dan korban kekerasan seksual membanjiri arsip foto daring, dan lembaga swadaya masyarakat (LSM) semakin banyak menggunakannya, menurut para pakar kesehatan global. Para ahli memperingatkan bahwa hal ini dapat menandakan "era baru budaya eksploitasi kemiskinan".

“Gambar-gambar ini mencerminkan pandangan umum tentang kemiskinan – anak-anak memegang mangkuk kosong, tanah retak… sangat stereotip,” kata Arsenii Alenichev, seorang peneliti di Institut Kedokteran Tropis di Antwerp yang mempelajari produksi gambar kesehatan global .

Tn. Alenichev mengumpulkan lebih dari 100 gambar kemiskinan ekstrem yang dihasilkan AI, yang digunakan oleh individu atau LSM dalam kampanye media sosial melawan kelaparan dan kekerasan seksual.

Foto-foto yang ia bagikan kepada Guardian menunjukkan adegan-adegan yang dilebih-lebihkan dan stereotipikal: anak-anak berkerumun di kubangan lumpur; seorang gadis Afrika bergaun pengantin dengan air mata mengalir di wajahnya. Dalam komentar terbaru yang diterbitkan di jurnal Lancet Global Health, ia berpendapat bahwa foto-foto tersebut merupakan "porno kemiskinan versi 2.0".

Tangkapan layar yang menunjukkan gambar

Tangkapan layar yang menunjukkan gambar "kemiskinan" yang dihasilkan AI di sebuah situs web foto. (Foto: Freepik)

Pak Alenichev dan banyak pakar lainnya mengatakan penggunaan gambar AI meningkat karena kekhawatiran tentang hak cipta dan biaya. Pemotongan anggaran pemerintah AS untuk LSM telah memperburuk masalah ini.

"Jelas, banyak organisasi mulai mempertimbangkan penggunaan gambar AI alih-alih foto asli karena murah. Anda juga tidak perlu khawatir tentang hak cipta dan banyak hal lainnya," ujarnya.

Apakah tanggung jawab ada pada pengguna atau platform?

Citra kemiskinan hasil rekayasa AI muncul di puluhan situs foto, termasuk Adobe Stock Photos dan Freepik. Banyak yang diberi judul: "anak surealis di kamp pengungsi"; "anak-anak Asia berenang di sungai yang penuh sampah"; "relawan kulit putih memberikan saran medis kepada anak-anak kulit hitam di sebuah desa di Afrika"; dan masih banyak lagi. Adobe menjual hak atas dua citra terakhir dalam daftar tersebut dengan harga sekitar £60.

"Foto-foto ini jelas-jelas rasis dan tidak boleh diunggah karena merupakan stereotip terburuk tentang Afrika, India, atau apa pun yang dapat Anda bayangkan," kata Alenichev.

Joaquín Abela, CEO Freepik, mengatakan bahwa tanggung jawab atas penggunaan gambar ekstrem tersebut berada di tangan pengguna, bukan platform seperti miliknya. Menurutnya, foto stok AI diciptakan oleh komunitas pengguna global, yang dapat menerima royalti ketika pelanggan Freepik membeli foto mereka.

Freepik telah berupaya mengurangi bias yang terdapat dalam pustaka fotonya dengan "menyuntikkan keberagaman". Di saat yang sama, mereka juga berupaya memastikan kesetaraan gender dalam foto-foto pengacara dan eksekutif.

Namun, katanya, platformnya hanya bisa berbuat sedikit. "Ini seperti mencoba mengeringkan lautan. Kami sudah mencoba, tetapi kenyataannya, jika klien di seluruh dunia menginginkan gambar mereka terlihat dengan cara tertentu, tidak ada yang bisa dilakukan."

Gambar hasil rekayasa AI dari kampanye anti-perkawinan anak Plan International tahun 2023, yang bertujuan untuk melindungi

Gambar hasil rekayasa AI dari kampanye anti-perkawinan anak Plan International tahun 2023, yang bertujuan untuk melindungi "privasi dan martabat anak perempuan." (Foto: Plan International)

Banyak organisasi bergengsi telah menggunakan gambar yang dihasilkan AI, bahkan Perserikatan Bangsa-Bangsa.

Tahun lalu, Perserikatan Bangsa-Bangsa mengunggah sebuah video di YouTube yang menampilkan "reka ulang" kekerasan seksual, termasuk kesaksian seorang perempuan Burundi yang menceritakan bagaimana ia diperkosa dan ditinggalkan hingga tewas oleh tiga pria pada tahun 1993. Konten tersebut sepenuhnya dihasilkan oleh AI. Video tersebut dihapus setelah The Guardian menghubungi PBB untuk wawancara.

Seorang juru bicara PBB kemudian menjelaskan alasan penghapusan video tersebut. "Kami yakin video tersebut dihasilkan secara tidak benar oleh AI dan dapat menimbulkan risiko integritas informasi, mencampur rekaman asli dengan konten buatan yang tampak nyata."

Produk-produk hasil rekayasa AI telah lama dianggap sebagai tiruan, terkadang melebih-lebihkan kebenaran. Bapak Alenichev mengatakan bahwa penyebaran gambar-gambar bias ini dapat memperburuk masalah, karena gambar-gambar tersebut dapat tersebar luas di internet dan digunakan untuk melatih AI generasi berikutnya.

Seorang juru bicara Plan International mengatakan bahwa LSM tersebut saat ini “menyarankan untuk tidak menggunakan AI untuk menggambarkan anak-anak.”

Minh Hoan

Sumber: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html