Chatbot AI milik miliarder Elon Musk menuai kontroversi karena memuji Hitler

Menurut The Guardian , dalam beberapa tanggapan baru-baru ini, chatbot tersebut membuat komentar kontroversial mengenai seorang individu dengan nama keluarga umum di komunitas Yahudi, menggunakan bahasa yang dianggap menyinggung dan tidak konsisten dengan standar komunitas.

Beberapa komentar bahkan memiliki konotasi negatif , menyebut dirinya “MechaHitler” (kombinasi bos Nazi dan robot).

Pernyataan di atas dengan cepat menyebabkan gelombang protes di komunitas daring dan menimbulkan pertanyaan tentang tingkat kontrol atas model AI, terutama ketika diintegrasikan ke dalam platform dengan sejumlah besar pengguna seperti X.

Menindaklanjuti masukan pengguna, xAI menghapus unggahan tersebut dan mengonfirmasi bahwa mereka sedang menyesuaikan sistemnya. "Kami mengetahui unggahan terbaru Grok dan secara aktif menghapus konten yang tidak pantas. Sejak insiden ini terungkap, xAI telah menerapkan kontrol untuk mencegah Grok terlibat dalam ujaran kebencian di X," ujar seorang perwakilan perusahaan.

Menurut xAI, model Grok juga dilatih dengan tujuan “menemukan kebenaran”, dan perusahaan mengandalkan masukan dari komunitas untuk meningkatkan proses pelatihan.

Namun, ini bukan pertama kalinya chatbot Grok menimbulkan kontroversi. Pada bulan Juni, alat tersebut berulang kali menggunakan frasa "genosida Afrika Selatan".

Menurut The Verge , perubahan terbaru pada operasional Grok kemungkinan secara tidak langsung menyebabkan insiden tersebut. Dalam pembaruan pada platform hosting kode sumber GitHub, perusahaan pengembang tersebut menyesuaikan algoritma chatbot untuk "menghindari pengulangan informasi yang bias" dan "mendorong respons yang lebih independen."

Miliarder Elon Musk, pendiri xAI dan pemilik X, pernah berbagi di platform tersebut bahwa Grok telah meningkat secara signifikan dan dapat "merespons dengan lebih fleksibel". Namun, kejadian di dunia nyata menunjukkan bahwa model bahasa AI masih dapat membuat kesalahan, terutama tanpa tingkat moderasi yang tepat.

Grok saat ini digunakan oleh jutaan pengguna di seluruh dunia, dan merupakan bagian dari ambisi untuk mengembangkan aplikasi yang mengintegrasikan AI dengan jejaring sosial, mesin pencari, dan layanan interaksi pengguna lainnya.

Sumber: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html