'Bapak Baptis AI' angkat bicara tentang skandal seks Grok.

Skandal seks Grok AI menunjukkan bahwa industri kecerdasan buatan "sudah terlalu di luar kendali," menurut Yoshua Bengio, yang dijuluki "bapak baptis AI."

Penyebaran luas gambar-gambar pribadi tanpa persetujuan di akun media sosial Elon Musk, X, yang dihasilkan oleh alat AI Grok, telah membunyikan alarm tentang pertumbuhan pesat industri teknologi ini.

Yoshua Bengio, seorang ilmuwan komputer pelopor, berpendapat bahwa perusahaan teknologi membangun sistem tanpa batasan teknis dan sosial yang memadai.

Berbicara kepada The Guardian, Bengio mengatakan bahwa meskipun situasi saat ini belum sepenuhnya kacau, hal itu perlu segera diperbaiki.

"Industri ini terlalu tidak diatur. Perusahaan-perusahaan AI perintis membangun sistem yang semakin canggih tetapi kurang memiliki pengamanan, yang menyebabkan dampak negatif yang jelas bagi masyarakat," katanya.

Aplikasi Grok telah dilarang di dua negara dan saat ini sedang diselidiki di Inggris. Foto: PA

Pernyataan ini muncul setelah ia baru-baru ini menunjuk sejarawan Yuval Noah Harari dan mantan CEO Rolls-Royce, Sir John Rose, sebagai anggota dewan direksi laboratorium keamanan AI miliknya.

Di bawah tekanan opini publik dan kalangan politik , platform media sosial X mengumumkan bahwa mereka telah memblokir Grok untuk mengedit foto orang sungguhan yang mengenakan pakaian terbuka seperti bikini, termasuk akun berbayar.

Menurut Bengio, sebagian dari solusi terletak pada tata kelola yang lebih baik, termasuk menempatkan individu yang beretika tinggi ke dalam dewan direksi perusahaan.

Selain Harari dan Rose, ia juga menunjuk Maria Eitel, pendiri Nike Foundation, sebagai presiden laboratorium keselamatan LawZero yang ia dirikan tahun lalu.

Bengio dijuluki "bapak baptis AI" setelah menerima Penghargaan Turing 2018 – sebuah penghargaan yang dianggap sebagai Hadiah Nobel di industri komputasi. Ia berbagi penghargaan ini dengan Geoffrey Hinton dan Yann LeCun (Ketua AI di Meta).

Mantan Perdana Menteri Swedia Stefan Löfven akan menjadi anggota pertama dewan penasihat global organisasi tersebut. Sementara itu, sejarawan Harari, penulis * Sapiens: Sejarah Singkat Umat Manusia *, adalah tokoh terkemuka yang sering memperingatkan tentang perkembangan AI, yang terbaru dalam bukunya *Nexus*.

"Ini bukan hanya diskusi teknis bagi perusahaan AI perintis," tegas Bengio. "Masalahnya terletak pada pilihan mana yang dianggap etis."

Saat ini menjabat sebagai profesor ilmu komputer di Universitas Montreal, Bengio telah mengumpulkan dana sebesar $35 juta (sekitar £26 juta) untuk LawZero.

Organisasi ini sedang membangun sebuah sistem bernama Scientist AI, yang bekerja secara paralel dengan sistem otonom – yang juga dikenal sebagai agen AI – untuk mendeteksi perilaku yang berpotensi berbahaya.

Ia menegaskan bahwa struktur dewan direksi dibangun berdasarkan gagasan untuk menyatukan orang-orang yang memiliki integritas moral tinggi. Mereka akan membantu LawZero tetap berkomitmen pada misinya untuk menyediakan solusi rekayasa sistem AI yang aman sejak tahap perancangan.

Bulan lalu, Bengio juga memperingatkan agar tidak memberdayakan AI, dengan alasan bahwa teknologi tersebut menunjukkan tanda-tanda mempertahankan diri – sebuah kekhawatiran utama bagi para pendukung keselamatan AI. Ia menekankan bahwa manusia tidak boleh dilarang untuk "memutus aliran" sistem ini jika diperlukan.

(Menurut The Guardian)

Dua negara melarang sementara chatbot Grok milik Elon Musk : Pemerintah Indonesia dan Malaysia mengumumkan bahwa mereka telah memblokir sementara akses ke Grok, sebuah chatbot yang dikembangkan oleh xAI milik Elon Musk, menyusul penyebaran gambar-gambar pornografi.

Sumber: https://vietnamnet.vn/bo-gia-ai-len-tieng-ve-be-boi-anh-khieu-dam-cua-grok-2482400.html