Jangan biarkan AI mengancam kelangsungan hidup umat manusia

'Bapak AI', pemenang penghargaan VinFuture 2024, meyakini bahwa ilmuwan perlu memastikan bahwa skenario AI tidak mengancam kelangsungan hidup umat manusia.

Hari ini, 7 Desember, para pemenang VinFuture 2024 Prize berinteraksi dengan mahasiswa dan ilmuwan muda di VinUni University mengenai penelitian ilmiah serta prospek masa depan bidang yang mereka tekuni. Di sini, para pemenang hadiah utama, para ilmuwan terkemuka yang karya-karya inovatifnya telah meletakkan dasar bagi revolusi AI saat ini, berbicara tentang kemajuan AI yang luar biasa.

Profesor Yann LeCun (tengah) dan Profesor Yoshua Bengio (sampul kiri) pada sesi pertukaran

"Rasanya seperti kita melompat 10 tahun ke masa depan."

Profesor Geoffrey Hinton dari Universitas Toronto, Kanada, tidak datang ke Vietnam untuk menerima penghargaan tersebut. Beliau, Profesor Yann LeCun, dan Profesor Yoshua Bengio, menerima Turing Award (penghargaan yang dianggap sebagai Hadiah Nobel dalam ilmu komputer ) pada tahun 2018, dan ketiganya disebut sebagai "bapak AI" oleh media internasional. Kini, ketiganya tetap mendapatkan penghargaan utama dari VinFuture 2024, bersama dua ilmuwan lainnya, Profesor Fei Fei Li (AS) dan Bapak Jensen Huang (CEO NVIDIA).

Menurut Profesor Hinton, lonjakan AI belakangan ini merupakan hasil dari tiga faktor. Pertama, penelitian untuk mengembangkan metode pembelajaran jaringan saraf yang lebih efisien, yang telah dilakukan oleh beliau, Profesor Yoshua, Profesor Yann, dan banyak lainnya. Kemudian, daya komputasi unit pemrosesan grafis (GPU) yang sangat cepat dan besarnya jumlah data yang dapat kita kumpulkan.

Profesor Geoffrey Hinton berbagi melalui video

"Aspek penting dari penghargaan ini (VinFuture 2024) adalah pengakuan atas karya Bapak Jensen Huang dalam merintis pembuatan papan GPU yang bermanfaat bagi AI. Kombinasi papan GPU Jensen Huang dan kumpulan data Profesor Fei Fei Li memainkan peran penting dalam perkembangan AI modern. Sungguh luar biasa bahwa karya mereka diakui bersama dengan para peneliti lain yang mengembangkan algoritma jaringan saraf tiruan," ujar Profesor Hinton.

"Kami menemukan bahwa ketika kami menggunakan GPU untuk melatih jaringan saraf, kecepatannya 30 kali lipat. Itu adalah lompatan kuantum. Rasanya seperti kecepatan komputasi 10 tahun lebih cepat dari zamannya. Tiba-tiba, kecepatan komputasi kami 10 tahun lebih cepat dari masa depan. Itu benar-benar mengubah permainan AI, sungguh luar biasa!" ujar Profesor Hinton.

Para ilmuwan masih berupaya memahami lebih lanjut tentang koneksi dalam jaringan saraf. Hal ini akan membantu para ilmuwan menciptakan kecerdasan buatan yang lebih mirip dengan kecerdasan manusia, dan bahkan dapat menjelaskan intuisi. Pendekatan logika tradisional tidak akan pernah mampu melakukannya.

"Saya mulai takut dengan AI"

Profesor Hinton mengatakan bahwa jaringan saraf besar saat ini memiliki intuisi yang serupa dengan manusia. Sejak tahun lalu, ia mulai khawatir bahwa AI hanya membutuhkan waktu 5 hingga 20 tahun untuk menjadi secerdas manusia. "Saat itulah saya mulai khawatir tentang AI. Menghentikan pengembangan bukanlah pilihan. Jadi, satu-satunya pilihan adalah mencoba mencari cara untuk memastikan keamanannya ketika AI menjadi lebih pintar daripada kita," ujar Profesor Hinton.

"Tapi saya rasa kiamat bukan sesuatu yang tak terelakkan," kata Profesor Hinton. "Namun, kemungkinannya tidak bisa diabaikan, dan kita perlu bekerja keras untuk mencegahnya. Semoga, mahasiswa-mahasiswa paling berbakat akan memilih untuk mempelajari keamanan AI, dengan menangani berbagai macam ancaman, mulai dari ancaman jangka panjang seperti pengambilalihan AI hingga ancaman jangka pendek seperti kejahatan siber."

Profesor Yoshua Bengio dan Profesor Yann LeCun

Profesor Yann Lecun mengatakan ia juga khawatir tentang risiko AI akan mendominasi manusia ketika kecerdasannya setara dengan manusia. Namun, jawabannya saat ini belum ada. "Kita bisa kalah saat bermain catur dengan mainan kecil seharga 30 euro. Apakah itu berbahaya? Jawabannya tidak. AI hanya menjadi berbahaya ketika kita menciptakan motivasi (untuk mengendalikan manusia) bagi AI. Namun saat ini, AI hanya memiliki pengetahuan, bukan motivasi," kata Profesor Yann.

Menurut Profesor Yann, menciptakan AI yang secara aktif melayani manusia hanyalah masalah teknis. Karena AI itu cerdas, anggapan bahwa AI akan mendominasi manusia adalah prasangka, karena kenyataan menunjukkan bahwa di masyarakat memang ada banyak orang pintar, tetapi mereka belum mendominasi dunia ! AI tetaplah sebuah alat, masalahnya ada pada manusia, bukan AI.

Menurut Profesor Yoshua Bengio, kita tidak bisa subjektif, masalah kecil saja dapat memengaruhi kelangsungan hidup umat manusia. Manusia dapat memberikan motivasi kepada mesin. Misalnya, seseorang ingin mengubah mesin menjadi manusia, membuat mesin tersebut tampak memiliki kebutuhan untuk "bertahan hidup", kita ingin mematikan mesin tersebut tetapi ia menolak untuk mati. "Tentu saja kita harus memastikan skenario itu tidak terjadi," kata Profesor Bengio.

Sumber: https://thanhnien.vn/vinfuture-award-2024-penerima-penghargaan-tidak-dapat-dilakukan-apa pun-melakukan-kepunahan-manusia-185241207195331155.htm