Jangan biarkan AI mengancam kelangsungan hidup umat manusia

'Bapak AI', pemenang penghargaan VinFuture 2024, meyakini bahwa ilmuwan perlu memastikan bahwa skenario AI tidak mengancam kelangsungan hidup umat manusia.

Hari ini, 7 Desember, para pemenang VinFuture 2024 Prize berinteraksi dengan mahasiswa dan ilmuwan muda di VinUni University mengenai penelitian ilmiah serta prospek masa depan bidang yang mereka tekuni. Di sini, para pemenang hadiah utama, para ilmuwan terkemuka yang karya-karya inovatifnya telah meletakkan dasar bagi revolusi AI saat ini, berbicara tentang kemajuan AI yang luar biasa.

Profesor Yann LeCun (tengah) dan Profesor Yoshua Bengio (sampul kiri) pada sesi pertukaran

"Kami merasa seperti telah melompat 10 tahun ke masa depan."

Profesor Geoffrey Hinton dari Universitas Toronto, Kanada, tidak datang ke Vietnam untuk menerima penghargaan tersebut. Beliau, Profesor Yann LeCun, dan Profesor Yoshua Bengio, semuanya menerima Turing Award (penghargaan yang disejajarkan dengan Hadiah Nobel dalam ilmu komputer) pada tahun 2018, dan dijuluki "bapak AI" oleh media internasional. Kini, ketiganya tetap mendapatkan penghargaan utama dari VinFuture 2024, bersama dua ilmuwan lainnya, Profesor Fei Fei Li (AS) dan Bapak Jensen Huang (CEO NVIDIA).

Ledakan AI baru-baru ini merupakan hasil dari tiga faktor, kata Hinton. Pertama, upaya mengembangkan cara yang lebih efisien bagi jaringan saraf untuk belajar, yang telah ia, Yoshua, Yann, dan banyak lainnya lakukan. Lalu, ada daya komputasi unit pemrosesan grafis (GPU) yang luar biasa cepat dan besarnya jumlah data yang dapat kita kumpulkan.

Profesor Geoffrey Hinton berbagi melalui video

"Aspek penting dari penghargaan ini (VinFuture 2024) adalah pengakuan atas karya Bapak Jensen Huang dalam merintis pembuatan papan GPU yang bermanfaat bagi AI. Kombinasi papan GPU Jensen Huang dan kumpulan data Profesor Fei Fei Li memainkan peran penting dalam perkembangan AI modern. Sungguh luar biasa bahwa karya mereka diakui bersama para peneliti algoritma jaringan saraf tiruan," ujar Profesor Hinton.

"Kami menemukan bahwa ketika kami menggunakan GPU untuk melatih jaringan saraf, kecepatannya 30 kali lipat. Itu adalah lompatan kuantum. Rasanya seperti kecepatan komputasi 10 tahun lebih cepat dari zamannya. Tiba-tiba, kami 10 tahun lebih cepat dari masa depan dalam hal kecepatan komputasi. Itu benar-benar mengubah permainan AI, sungguh luar biasa!" kata Profesor Hinton.

Para ilmuwan masih berupaya memahami lebih lanjut tentang koneksi dalam jaringan saraf. Hal ini akan membantu para ilmuwan menciptakan kecerdasan buatan yang lebih mirip dengan kecerdasan manusia, dan bahkan dapat menjelaskan intuisi. Pendekatan logika tradisional tidak akan pernah mampu melakukannya.

"Saya mulai takut dengan AI"

Profesor Hinton mengatakan bahwa jaringan saraf besar saat ini memiliki intuisi yang serupa dengan manusia. Tahun lalu, beliau mulai khawatir bahwa AI mungkin hanya membutuhkan waktu lima hingga 20 tahun untuk menjadi secerdas manusia. "Saat itulah saya mulai khawatir tentang AI. Menghentikan pengembangan bukanlah suatu pilihan. Jadi, satu-satunya pilihan adalah mencoba mencari cara untuk memastikan keamanannya ketika ia menjadi lebih pintar daripada kita," ujar Profesor Hinton.

"Tapi saya rasa kiamat bukan sesuatu yang tak terelakkan," kata Profesor Hinton. "Kemungkinannya tidak bisa diabaikan, dan kita perlu bekerja keras untuk mencegahnya. Semoga, mahasiswa-mahasiswa paling berbakat akan memilih untuk mempelajari keamanan AI, dengan menangani berbagai macam ancaman, mulai dari ancaman jangka panjang seperti pengambilalihan AI hingga ancaman jangka pendek seperti kejahatan siber."

Profesor Yoshua Bengio dan Profesor Yann LeCun

Profesor Yann Lecun mengatakan ia juga khawatir tentang risiko AI akan mendominasi manusia ketika kecerdasannya setara manusia. Namun, jawabannya saat ini belum ada. "Kita bisa kalah saat bermain catur dengan mainan kecil seharga 30 euro. Apakah itu berbahaya? Jawabannya tidak. AI hanya menjadi berbahaya ketika kita menciptakan motivasi (untuk mengendalikan manusia) bagi AI. Namun saat ini, AI hanya memiliki pengetahuan, bukan motivasi," kata Profesor Yann.

Menurut Profesor Yann, menciptakan AI yang secara aktif melayani manusia hanyalah masalah teknis. Karena AI itu cerdas, anggapan bahwa AI akan mendominasi manusia adalah prasangka, karena kenyataan menunjukkan bahwa di masyarakat, banyak orang pintar tetapi mereka belum mendominasi dunia ! AI tetaplah sebuah alat, masalahnya ada pada manusia, bukan AI.

Menurut Profesor Yoshua Bengio, kita tidak bisa subjektif, masalah kecil saja dapat memengaruhi kelangsungan hidup umat manusia. Manusia dapat memberikan motivasi kepada mesin. Misalnya, seseorang ingin mengubah mesin menjadi manusia, membuat mesin tersebut tampak memiliki kebutuhan untuk "bertahan hidup", kita ingin mematikan mesin tersebut tetapi ia menolak untuk mati. "Tentu saja kita harus memastikan skenario itu tidak terjadi," kata Profesor Bengio.

Sumber: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm