Google membatasi chatbot AI Gemini miliknya agar tidak menjawab pertanyaan tentang pemilihan umum global.

Menurut informasi terbaru, Google membatasi chatbot AI Gemini miliknya untuk menjawab pertanyaan tentang pemilihan global yang akan datang tahun ini. Pengumuman ini muncul di saat kemajuan dalam AI generatif, termasuk pembuatan gambar dan video , menimbulkan kekhawatiran tentang disinformasi dan berita palsu di kalangan masyarakat, yang mendorong pemerintah untuk mengatur teknologi tersebut.

Google telah membatasi chatbot AI Gemini untuk menjawab pertanyaan tentang pemilihan umum global. (Gambar: Google Gemini)

Seorang juru bicara Google mengatakan, “ Sebagai persiapan untuk berbagai pemilihan yang berlangsung di seluruh dunia pada tahun 2024 dan untuk berjaga-jaga, kami membatasi respons Gemini pada pertanyaan masukan terkait pemilihan .” Ketika ditanya tentang pemilihan, seperti pemilihan presiden AS mendatang antara Joe Biden dan Donald Trump, Gemini menjawab, “ Saya masih belajar bagaimana menjawab pertanyaan itu. Sementara itu, cobalah menggunakan Google Search .”

Selain Amerika Serikat, pemilihan penting diperkirakan akan diadakan di beberapa negara besar termasuk Rusia, Afrika Selatan dan India, Inggris Raya, dan lain-lain.

Untuk saat ini, masih belum jelas apakah Google akan membuka blokir Gemini untuk menjawab pertanyaan terkait pemilu setelah pemilu berakhir akhir tahun ini.

Baru-baru ini, India mewajibkan perusahaan teknologi AI untuk mendapatkan persetujuan pemerintah sebelum merilis secara publik alat AI yang "tidak dapat dipercaya" atau "eksperimental", dan untuk memberi label peringatan tentang risiko respons yang salah guna mengingatkan pengguna.

Langkah ini diambil setelah skandal kecil yang melibatkan Gemini dan pemerintah India bulan lalu. Alat AI tersebut menjawab pertanyaan tentang apakah Perdana Menteri India Narendra Modi seorang fasis, dan menjawab bahwa Modi dituduh menerapkan kebijakan yang dianggap sebagian orang sebagai fasis. Wakil Menteri Teknologi Informasi India, Rajeev Chandrasekhar, menyebut ini sebagai "pelanggaran langsung" terhadap Kode Teknologi Informasi India 2021.

Produk AI Google baru-baru ini menjadi sorotan setelah beberapa penggambaran tokoh sejarah yang dibuat oleh Gemini tidak akurat, memaksa perusahaan untuk menangguhkan sementara fitur pembuatan gambar chatbot AI tersebut pada akhir bulan lalu. CEO Sundar Pichai mengatakan perusahaan sedang berupaya memperbaiki masalah tersebut dan menyebut respons chatbot itu "bias" dan "sama sekali tidak dapat diterima."

Sementara itu, platform Meta milik Facebook mengumumkan bulan lalu bahwa mereka akan membentuk tim untuk mengatasi disinformasi dan penyalahgunaan AI menjelang pemilihan Parlemen Eropa pada Juni mendatang.

HUYNH DUNG (Sumber: Reuters/Techcrunch)

Sumber