Kekhawatiran bahwa penjahat atau teroris akan menggunakan AI untuk menghancurkan dunia akan menjadi topik hangat dalam pertemuan puncak para pemimpin global di Inggris pada bulan November. Para pejabat Inggris sedang berkeliling dunia untuk mencoba mencapai konsensus mengenai pernyataan bersama yang memperingatkan risiko aktor jahat dalam mengeksploitasi teknologi baru.
Beberapa pejabat yang dekat dengan Perdana Menteri Inggris khawatir bahwa suatu saat nanti teknologi ini akan cukup kuat untuk menciptakan senjata biologis atau senjata yang berada di luar kendali manusia. Kekhawatiran yang semakin meningkat ini mendorong seruan untuk regulasi guna memitigasi risiko tersebut. Meskipun para pemimpin teknologi sepakat untuk menghentikan pengembangan AI, mereka justru terjebak dalam persaingan sengit AI dengan para pesaing.
Menurut The Guardian, pertemuan puncak November ini akan membahas risiko "AI perbatasan". AI perbatasan adalah istilah yang digunakan untuk menggambarkan model AI tercanggih yang dapat membahayakan nyawa manusia.
Awal pekan ini, pemerintah Inggris mengonfirmasi bahwa konferensi tersebut akan berfokus pada risiko-risiko seperti penyalahgunaan AI untuk menciptakan senjata biologis, serangan siber, dan sistem-sistem canggih tanpa kendali manusia. Selama beberapa bulan terakhir, Bapak Sunak telah memperingatkan tentang risiko-risiko yang ditimbulkan oleh AI, mendesak komunitas internasional untuk mengadopsi "rel" guna mencegah penyalahgunaan AI.
Tahun lalu, AI hanya membutuhkan waktu enam jam untuk menyarankan 40.000 molekul berbeda yang berpotensi mematikan, salah satunya menyerupai VX, racun saraf terkuat yang pernah dikembangkan.
Pada awal 2023, para peneliti menemukan bahwa ChatGPT dapat menipu manusia untuk mencapai tujuan tertentu. Chatbot AI ini meyakinkan manusia untuk memecahkan Captcha (alat yang digunakan untuk mendeteksi apakah manusia atau bot yang memanipulasi).
Kekhawatiran utama lainnya adalah munculnya "kecerdasan umum buatan" (AGI), sebuah sistem AI yang dapat melakukan tugas apa pun sebaik atau bahkan lebih baik daripada manusia, yang dapat menjadi pertanda kehancuran umat manusia. Beberapa orang percaya bahwa AGI hanya akan terwujud dalam beberapa tahun. Namun, para ahli AI membantah hal ini dan menyebut AGI yang tidak terkendali sebagai "fiksi ilmiah".
Apa pun masalahnya, Perdana Menteri Sunak ingin memanfaatkan konferensi itu untuk memfokuskan perhatian pada risiko eksistensial ketimbang kemungkinan langsung AI, seperti menciptakan gambar palsu atau menimbulkan diskriminasi jika digunakan untuk membuat keputusan kebijakan publik.
Pemerintah Inggris akan mengalokasikan dana sebesar £100 juta untuk membentuk gugus tugas AI baru guna membantu menguji algoritma yang sedang dikembangkan. Pemerintah ingin mendorong bisnis global untuk mengirimkan kembali perangkat AI ke Inggris untuk dievaluasi sebelum diterapkan secara luas.
Hanya pemerintah yang dapat memastikan bahwa masalah keamanan nasional yang paling penting dapat diatasi, menurut Wakil Perdana Menteri Inggris Oliver Dowden.
Seorang juru bicara pemerintah Inggris berkomentar bahwa AI memiliki potensi besar untuk mengubah setiap aspek kehidupan. Gugus Tugas AI telah dibentuk untuk memastikan teknologi ini dikembangkan secara aman dan bertanggung jawab. Konferensi AI akan membahas berbagai potensi risiko.
(Menurut The Guardian)
[iklan_2]
Sumber
Komentar (0)