Jangan biarkan AI mengancam kelangsungan hidup manusia

'Godfathers of AI', pemenang hadiah VinFuture 2024, percaya bahawa saintis perlu memastikan bahawa senario AI tidak mengancam kelangsungan hidup manusia.

Hari ini, 7 Disember, para pemenang Hadiah VinFuture 2024 berinteraksi dengan pelajar dan saintis muda di Universiti VinUni tentang penyelidikan saintifik serta prospek masa depan bidang yang mereka ceburi. Di sini, pemenang hadiah utama, saintis cemerlang yang kerja-kerja pecah tanahnya telah meletakkan asas untuk revolusi AI hari ini, bercakap tentang kemajuan menakjubkan AI.

Profesor Yann LeCun (tengah) dan Profesor Yoshua Bengio (kulit kiri) pada sesi pertukaran

"Kami berasa seperti kami telah melompat 10 tahun ke hadapan."

Tidak datang ke Vietnam untuk menerima anugerah itu, Profesor Geoffrey Hinton, Universiti Toronto, Kanada, mengambil bahagian dalam pertukaran video . Beliau, Profesor Yann LeCun dan Profesor Yoshua Bengio, menerima Anugerah Turing (satu anugerah yang dianggap sebagai Hadiah Nobel dalam bidang sains komputer) pada 2018, dan kesemuanya dipanggil "godfather AI" oleh media antarabangsa. Kini, ketiga-tiga mereka terus diberi penghormatan oleh VinFuture 2024 dalam anugerah utama bersama dua saintis lain, Profesor Fei Fei Li (AS) dan Encik Jensen Huang (CEO NVIDIA).

Menurut Profesor Hinton, ledakan AI baru-baru ini adalah hasil daripada tiga faktor. Pertama ialah penyelidikan untuk membangunkan kaedah yang lebih cekap untuk dipelajari oleh rangkaian saraf, yang beliau, Profesor Yoshua, Profesor Yann dan ramai lagi telah lakukan. Kemudian terdapat kuasa pengkomputeran yang sangat pantas bagi unit pemprosesan grafik (GPU) dan sejumlah besar data yang boleh kami kumpulkan.

Profesor Geoffrey Hinton berkongsi melalui video

"Aspek yang hebat dalam anugerah ini (VinFuture 2024) ialah pengiktirafan kerja En. Jensen Huang dalam merintis penciptaan papan GPU yang berguna untuk AI. Gabungan papan GPU Jensen Huang dan set data Profesor Fei Fei Li memainkan peranan penting dalam pembangunan moden AI. Alangkah baiknya kerja mereka bekerja pada rangkaian neural Hinton," kata Profesor Hinton.

"Kami mendapati bahawa apabila kami menggunakan GPU untuk melatih rangkaian saraf, ia adalah 30 kali lebih pantas. Itu adalah lonjakan kuantum. Ia seperti kelajuan pengkomputeran adalah 10 tahun lebih awal daripada masanya. Tiba-tiba kami 10 tahun lebih awal daripada masa depan dalam kelajuan pengkomputeran. Itu adalah penukar permainan yang lengkap untuk AI, ia menakjubkan!", kongsi Profesor Hinton.

Para saintis masih berusaha untuk memahami lebih lanjut tentang sambungan dalam rangkaian saraf. Ini akan membantu saintis mencipta kecerdasan buatan yang lebih seperti kecerdasan manusia, malah boleh menjelaskan gerak hati. Pendekatan logik tradisional tidak akan dapat melakukannya.

"Saya mula takut tentang AI"

Profesor Hinton berkata bahawa rangkaian saraf yang besar hari ini mempunyai intuisi dengan cara yang sama seperti manusia. Sejak tahun lalu, dia mula bimbang bahawa ia boleh mengambil masa hanya 5 hingga 20 tahun untuk AI menjadi pintar seperti manusia. "Ketika itulah saya mula bimbang tentang AI. Menghentikan pembangunan bukan satu pilihan. Jadi satu-satunya pilihan ialah cuba memikirkan cara memastikan keselamatan apabila ia menjadi lebih bijak daripada kita," kongsi Profesor Hinton.

"Tetapi saya tidak fikir akhir dunia tidak dapat dielakkan," kata Profesor Hinton. "Bagaimanapun, kemungkinan itu tidak boleh diabaikan, dan kita perlu bekerja keras untuk mencegahnya. Mudah-mudahan, pelajar yang paling berbakat akan memilih untuk mempelajari keselamatan AI, menangani pelbagai ancaman, daripada ancaman jangka panjang seperti pengambilalihan AI kepada ancaman jangka pendek seperti jenayah siber."

Profesor Yoshua Bengio dan Profesor Yann LeCun

Profesor Yann Lecun berkata, dia juga bimbang tentang risiko AI akan menguasai manusia apabila ia pintar seperti manusia. Walau bagaimanapun, jawapan semasa belum lagi. "Kita boleh kalah apabila bermain catur dengan mainan kecil bernilai 30 euro. Adakah itu berbahaya? Jawapannya tidak. AI hanya menjadi berbahaya apabila kita mencipta motivasi (untuk mengawal manusia) untuk AI. Tetapi sekarang, AI hanya mempunyai pengetahuan, bukan motivasi, "kata Profesor Yann.

Menurut Profesor Yann, mencipta AI yang berfungsi secara aktif kepada manusia hanyalah masalah teknikal. Kerana AI pintar, berfikir bahawa AI akan menguasai manusia adalah satu prasangka, kerana realiti menunjukkan bahawa dalam masyarakat terdapat ramai orang pintar tetapi mereka tidak menguasai dunia ! AI masih alat, masalahnya adalah pada manusia, bukan AI.

Menurut Profesor Yoshua Bengio, kita tidak boleh subjektif, hanya masalah kecil boleh menjejaskan kelangsungan hidup manusia. Manusia boleh meletakkan motivasi ke dalam mesin. Sebagai contoh, seseorang ingin mengubah mesin itu menjadi manusia, menjadikan mesin itu kelihatan mempunyai keperluan untuk "bertahan", kita ingin mematikan mesin tetapi ia enggan dimatikan. "Sudah tentu kita perlu memastikan senario itu tidak berlaku", kata Profesor Bengio.

Sumber: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm