Kecerdasan buatan: Malaysia menghentikan operasi chatbot Grok.

Malaysia telah menangguhkan sementara akses ke chatbot Grok – sebuah alat kecerdasan buatan (AI) yang dikembangkan oleh xAI, sebuah perusahaan milik X Corp. milik Elon Musk – setelah menemukan bahwa platform tersebut berulang kali disalahgunakan untuk membuat gambar pornografi dan ofensif yang melanggar hak pribadi, khususnya hak perempuan dan anak di bawah umur.

Dalam pengumuman pada 11 Januari, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan bahwa mereka telah memerintahkan pembatasan akses segera ke Grok untuk pengguna domestik, menyusul peringatan berulang yang tidak ditanggapi dengan tindakan perbaikan yang memuaskan dari X Corp. dan xAI.

Menurut badan pengatur, Grok – yang terintegrasi langsung ke dalam jejaring sosial X – dieksploitasi untuk membuat gambar pornografi, ofensif, vulgar, dan manipulatif tanpa persetujuan, hanya melalui perintah teks biasa. MCMC menekankan: “Konten yang melanggar tersebut melibatkan gambar perempuan dan anak-anak, meskipun kami telah berulang kali berupaya bekerja sama dengan penyedia layanan dan mengirimkan pemberitahuan resmi.”

Menurut MCMC, pengamanan Grok dianggap tidak memadai, karena platform tersebut terutama bergantung pada mekanisme pelaporan mandiri pengguna daripada pengendalian risiko sejak tahap desain dan operasional.

Pernyataan MCMC mengklarifikasi: "X Corp. gagal mengatasi risiko inheren yang timbul dari cara kerja alat AI ini secara memadai."

Malaysia juga menyatakan bahwa mereka hanya akan mempertimbangkan untuk memulihkan akses setelah xAI menunjukkan bahwa pengamanan baru telah diterapkan dan terbukti efektif.

Keputusan Malaysia ini muncul di tengah lonjakan kecaman global terhadap Grok, setelah alat penghasil gambar chatbot tersebut ditemukan memungkinkan seksualisasi gambar perempuan dan anak-anak, yang menimbulkan kekhawatiran serius tentang pornografi deepfake (palsu) yang dihasilkan oleh AI.

Sebelum Malaysia membuat pernyataan di atas, Indonesia telah menjadi negara pertama yang sepenuhnya melarang Grok, sementara di banyak pasar lain, alat tersebut hanya berfungsi untuk pengguna berbayar.

Menurut para pejabat Eropa dan organisasi advokasi teknologi, mengalihkan fitur pembuatan gambar ke model berbayar – kebijakan komersial baru yang diumumkan oleh Grok di X pada 9 Januari – tidak dapat menyelesaikan akar masalahnya.

(VNA/Vietnam+)

Sumber: https://www.vietnamplus.vn/tri-tue-nhan-tao-malaysia-dinh-chi-hoat-dong-chatbot-grok-post1087863.vnp