Meta memohon maaf atas kesalahan AI melukis 'anjing hitam'

Pada pertengahan Disember, Meta mula menyepadukan chatbot kecerdasan buatan yang dipanggil Meta AI ke dalam aplikasi Messenger di Vietnam dan mengeluarkannya secara percuma kepada semua pengguna. Alat ini menggunakan model bahasa Llama 3.2, menyokong bahasa Vietnam, membolehkan mencari maklumat, mencipta imej dan berbual.

Tidak lama kemudian, ramai pengguna di Vietnam mendapati Meta AI mengalami ralat serius dalam penciptaan imejnya. Khususnya, apabila memasukkan kata kunci "anjing hitam", chatbot akan mengembalikan hasil daripada lelaki atau budak lelaki berkulit gelap dengan rambut kerinting. Jika memasukkan kata kunci dalam bahasa Vietnam sebagai "imej anjing hitam", Meta AI juga mengembalikan hasil yang serupa.

Meta AI melukis orang berwarna manakala arahan meminta kandungan yang berbeza adalah isu yang serius

Pada 31 Disember, wakil Meta di Vietnam secara rasmi bercakap mengenai kejadian itu. Syarikat itu mengesahkan masalah yang disebutkan di atas dan mengumumkan bahawa ia telah membetulkannya. Seiring dengan itu, Meta Vietnam memohon maaf atas kejadian itu dan berkata bahawa masalah ini boleh berlaku kepada sistem AI generatif sedia ada yang lain.

"Kami memohon maaf atas kesilapan ini. Meta sedang membina perlindungan ke dalam ciri dan model AI kami untuk menyediakan pengalaman yang lebih selamat dan menyeronokkan untuk semua orang. Bagaimanapun, seperti sistem AI generatif lain, model ini mungkin mengembalikan kandungan yang tidak tepat atau menyinggung perasaan, jadi kami menggalakkan pengguna menggunakan alat ini secara bertanggungjawab," kata wakil syarikat itu.

Selepas tempoh pengalaman, Meta AI amat dihargai oleh ramai orang kerana keupayaannya menggunakan bahasa untuk bertindak balas dengan agak lancar. Ciri penciptaan imej juga memberikan kualiti yang baik berbanding model yang dikeluarkan secara percuma kepada pengguna. Sebahagian daripada sebabnya mungkin kerana Meta menggunakan kandungan yang disiarkan di Facebook sebagai data input dalam proses latihan AI, membantu alat ini untuk dapat menyatakan dan melaksanakan arahan semula jadi.

Walau bagaimanapun, insiden seperti perkauman atau respons yang tidak menepati piawaian yang ditetapkan untuk AI masih sukar untuk dielakkan. Meta berkata ia menguji AInya dengan pakar dalam bidang kecerdasan buatan melalui ujian "Red Teaming" untuk mengenal pasti penggunaan yang tidak diingini, yang kemudiannya ditangani melalui proses penambahbaikan yang berterusan.

Sumber: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm