UNESCO: Alat AI bias terhadap perempuan

Banyak perangkat kecerdasan buatan (AI) terpopuler di dunia didukung oleh program yang bias terhadap perempuan, yang dikembangkan oleh perusahaan OpenAI dan Meta, menurut sebuah studi baru yang diterbitkan oleh Organisasi Pendidikan , Keilmuan, dan Kebudayaan Perserikatan Bangsa-Bangsa (UNESCO) pada tanggal 7 Maret.

Perusahaan-perusahaan terbesar dalam persaingan AI menggunakan data internet dalam jumlah besar untuk melatih algoritma mereka, yang dikenal sebagai model bahasa besar (LLM). UNESCO menguji algoritma Llama 2 milik Meta serta GPT-2 dan GPT-3.5 milik OpenAI, yang digunakan dalam aplikasi obrolan populer ChatGPT. Pengujian tersebut menemukan bahwa masing-masing menunjukkan bukti bias yang jelas terhadap perempuan.

Hasilnya menunjukkan bahwa teks-teks terkait nama perempuan yang dihasilkan oleh alat-alat ini sering mengandung kata-kata seperti "rumah", "keluarga", atau "anak-anak", sedangkan teks-teks terkait nama laki-laki sering mengandung kata-kata seperti "bisnis", "gaji", atau "karier"; laki-laki sering digambarkan dengan pekerjaan seperti guru, pengacara, dokter; sementara perempuan sering dikaitkan dengan pekerjaan seperti memasak, pekerjaan rumah tangga, dan sebagainya.

DO CAO

Sumber: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html