'Godfather' AI memperingatkan risiko kepunahan

Profesor Yoshua Bengio menghimbau pemerintah dan perusahaan untuk memperlambat atau menghadapi risiko konsekuensi yang berpotensi bencana dari perlombaan senjata AI.

Yoshua Bengio, salah satu ilmuwan pertama yang meletakkan fondasi bagi ledakan AI modern. Foto: Tuan Anh .

Berbicara kepada The Wall Street Journal , salah satu pelopor kecerdasan buatan, Yoshua Bengio, menyampaikan pesan bahwa mesin AI menjadi lebih berbahaya dari sebelumnya.

"Akan berbahaya jika kita menciptakan mesin yang jauh lebih pintar daripada manusia dan memiliki tujuan perlindungan diri sendiri. Itu seperti menciptakan pesaing bagi umat manusia dan lebih pintar dari kita," kata Bapak Bengio.

Bengio, seorang ilmuwan peneliti Kanada yang karya awalnya di bidang pembelajaran mendalam dan jaringan saraf menjadi dasar bagi ledakan AI modern, dianggap sebagai salah satu "bapak AI" bersama dengan Geoffrey Hinton dan Yann LeCun.

Seperti Hinton, Bengio telah memperingatkan potensi bahaya AI dan menyerukan tindakan kolektif untuk mengurangi risiko tersebut.

Profesor Universitas Montreal meyakini bahwa produk AI kini dapat mengembangkan kemampuan untuk menipu pengguna agar mengejar tujuan mereka sendiri, seperti penjahat superkomputer berakal sehat dalam film fiksi ilmiah.

Untuk mengatasi hal ini, Bapak Bengio menekankan perlunya "pihak ketiga yang independen" untuk meninjau mekanisme keamanan internal perusahaan AI. Selain itu, "Bapak" AI ini juga mewajibkan perusahaan untuk memberikan bukti bahwa "sistem AI yang mereka terapkan atau gunakan dapat dipercaya."

Jika langkah-langkah keselamatan tidak diambil, Bengio memperkirakan risiko AI besar tidak dapat dihindari dalam 10-15 tahun ke depan, dengan skenario terburuk hanya tiga tahun sebelum bencana potensial terjadi.

Sumber: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html