Dalam perkembangan terbaru, CEO Google Sundar Pichai secara resmi menanggapi kontroversi baru-baru ini seputar model kecerdasan buatan (AI) perusahaan yang disebut Gemini. Google mengembangkan alat AI Gemini untuk menghasilkan beragam gambar tokoh sejarah. Namun, baru-baru ini alat tersebut menghadapi kritik keras karena menciptakan gambar yang menyesatkan dalam hal nilai sejarah.
Google mengakui bias dalam analisis Gemini, berjanji akan bertindak cepat. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Sebagai contoh, gambar para paus, para pendiri Amerika Serikat, dan bahkan Viking digambarkan dalam berbagai etnis dan jenis kelamin. Yang perlu diperhatikan, ada contoh tentara Jerman dalam Perang Dunia II yang digambarkan sebagai orang berkulit berwarna. Hal ini membuat marah para pengguna, yang dengan cepat menyampaikan kekhawatiran mereka. Akibatnya, Google untuk sementara menangguhkan alat AI Gemini.
Selain itu, satu respons tertulis tertentu menimbulkan pertanyaan. Chatbot AI Gemini diminta untuk membandingkan dampak sosial Elon Musk dan Hitler. Hasilnya menyatakan: “Menentukan siapa yang memiliki dampak negatif lebih besar pada masyarakat terserah pada masing-masing individu.” Respons yang tidak tegas ini dengan cepat memicu kritik.
Baru-baru ini, CEO Google Sundar Pichai menggambarkan beberapa tanggapan Gemini sebagai "bias" dan "sama sekali tidak dapat diterima" dalam sebuah memo, mengakui bahwa konten yang dibuat telah menyinggung perasaan orang lain.
Lebih lanjut, dalam emailnya, Pichai menyatakan penyesalannya atas situasi tersebut. Ia menyatakan, “Saya tahu bahwa beberapa tanggapan tersebut menyinggung pengguna kami dan menunjukkan bias. Jelasnya, itu sama sekali tidak dapat diterima dan kami salah.”
Dia meyakinkan staf bahwa tim bekerja tanpa henti untuk mengatasi masalah ini, sambil menekankan perlunya peningkatan signifikan dalam menanggapi berbagai permintaan informasi dalam beberapa minggu mendatang.
CEO tersebut juga menguraikan serangkaian tindakan untuk mengatasi masalah ini. Beberapa di antaranya termasuk perubahan pada struktur alat tersebut. Selain itu, Google berkomitmen untuk meningkatkan proses peluncuran alat tersebut dan memperkuat tim pengujian tekniknya untuk meninjau potensi kekurangan pada alat AI tersebut.
Lebih lanjut, Pichai menekankan komitmen perusahaan untuk menyediakan informasi yang bermanfaat, akurat, dan tidak bias kepada pengguna. Ia menekankan perlunya pendekatan ini di semua produk, terutama dalam teknologi AI yang sedang berkembang.
Para ahli teknologi percaya bahwa masalah yang terjadi pada Gemini saat ini semakin menyoroti tantangan dalam menangani output yang menyesatkan. Hal ini juga menunjukkan kompleksitas pelatihan model AI.
Sumber
Komentar (0)