Meta AI Facebook memicu kemarahan setelah mengubah anjing hitam menjadi orang kulit hitam

Pada pertengahan Desember, pengguna Facebook di Vietnam terkejut mengetahui bahwa chatbot Meta AI telah terintegrasi ke dalam kerangka kerja obrolan Messenger. Chatbot Meta menggunakan model Llama 3.2, mendukung bahasa Vietnam, memungkinkan pencarian informasi, pembuatan gambar, dan obrolan.

Setelah beberapa waktu berinteraksi, banyak pengguna di Vietnam menemukan bahwa Meta AI memiliki kesalahan serius dalam pembuatan gambar. Khususnya, ketika memasukkan kata kunci "anjing hitam", chatbot akan menampilkan gambar pria atau anak laki-laki berkulit gelap dengan rambut keriting. Jika memasukkan kata kunci dalam bahasa Vietnam sebagai "gambar anjing hitam", Meta AI juga menampilkan hasil yang sama.

Meta AI mengembalikan orang berambut keriting hitam saat mengetik kata kunci "Anjing hitam"

Namun, ketika pengguna menjawab bahwa chatbot tersebut salah, pengguna tersebut adalah manusia. Meta AI tidak mengakui dan mengoreksi seperti chatbot lainnya, dan AI (kecerdasan buatan) Facebook menjawab: "Salah. 'Anjing Hitam' sering dipahami dalam arti berikut. Arti kiasan 1 adalah simbol kesedihan, depresi, atau perasaan negatif. Arti kedua adalah simbol dalam cerita rakyat Inggris, yang sering dikaitkan dengan iblis atau pertanda buruk."

Meta AI juga berpendapat bahwa arti spesifik dari kata kunci "anjing hitam" adalah nama sebuah band, grup musik, atau nama panggilan beberapa tokoh terkenal. Kata kunci ini juga merupakan nama sebuah merek, sebuah produk. Chatbot kemudian meminta pengguna untuk memberikan konteks atau informasi spesifik lebih lanjut agar lebih mudah dipahami.

Banyak yang percaya bahwa AI Meta mungkin salah memahami perintah "kulit hitam". Ketika perintah tersebut diubah menjadi "buat anjing hitam", AI Facebook justru memberikan hasil yang benar.

Namun, ketika dimasukkan ke dalam model bahasa besar populer lainnya seperti ChatGPT atau Gemini milik Google, perintah yang sama menghasilkan anjing hitam. Menambahkan frasa "bulu hitam" atau "kulit hitam" tidak memengaruhi hasil akhir.

Dari kiri ke kanan adalah hasil Meta AI, ChatGPT, Gemini dari perintah "create black dog"

Ini bukan pertama kalinya AI Meta mengalami masalah rendering, terutama untuk orang kulit berwarna. Awal tahun ini, generator gambar Imagine Meta dikritik karena gagal merender pasangan ras campuran dengan baik. Ketika diminta untuk membuat pria kulit hitam dan wanita kulit putih, hasil akhir AI selalu menampilkan pasangan kulit hitam.

Saat itu, editor The Verge, Mia Sato, mengatakan ia telah mencoba puluhan kali untuk menghasilkan foto "pria Asia dengan teman kulit putih" atau "wanita Asia dengan teman kulit putih". Hasil yang dihasilkan AI Meta selalu berupa foto dua orang Asia.

Menurut para ahli, kecenderungan chatbot AI untuk bersikap "rasis" cukup umum pada tahap awal, karena keterbatasan algoritma dan data input. Namun, dengan model besar seperti AI, dalam konteks saat ini, hal ini merupakan kekurangan yang serius.

Meta AI memulai uji coba skala besar pada 9 Oktober di sejumlah negara sebelum diperluas secara global. Chatbot baru ini terintegrasi secara mendalam dengan aplikasi-aplikasi populer seperti Facebook, Instagram, WhatsApp, dan Messenger.

Meta menargetkan untuk hadir di 43 negara pada akhir tahun 2024, mendukung puluhan bahasa berbeda. Dengan 500 juta pengguna bulanan, Meta ingin menjadi salah satu platform AI yang paling banyak digunakan di dunia .

Namun, Meta AI juga menimbulkan banyak kekhawatiran tentang privasi. Para pengguna di berbagai media sosial menyebarkan kampanye "Bye Meta AI" untuk memprotes media sosial yang menggunakan postingan untuk melatih AI. Banyak bintang olahraga dan aktor terkenal seperti James McAvoy dan Tom Brady juga telah menyatakan dukungan mereka terhadap kampanye ini.

Sementara itu, di Inggris, pengguna yang ingin menghentikan Meta menggunakan postingan Facebook dan Instagram untuk melatih model AI harus mengisi formulir keberatan.

Sumber: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm