Kekhawatiran tentang penjahat atau teroris yang menggunakan AI untuk menghancurkan dunia akan menjadi topik hangat dalam pertemuan puncak para pemimpin global di Inggris pada bulan November. Para pejabat Inggris akan berkeliling dunia untuk mencoba mencapai konsensus mengenai pernyataan bersama yang memperingatkan risiko kekuatan jahat yang mengeksploitasi teknologi baru.
Beberapa pejabat yang dekat dengan Perdana Menteri Inggris khawatir bahwa suatu saat nanti teknologi ini akan cukup kuat untuk menciptakan senjata biologis atau senjata yang berada di luar kendali manusia. Kekhawatiran yang semakin meningkat ini menuntut adanya regulasi untuk memitigasi risiko tersebut. Meskipun para pemimpin teknologi sepakat untuk menghentikan pengembangan AI, mereka justru terjebak dalam persaingan sengit AI dengan para pesaing.
Menurut The Guardian, pertemuan puncak bulan November ini akan membahas risiko "AI perbatasan". AI perbatasan adalah istilah yang digunakan untuk merujuk pada model AI tercanggih yang dapat membahayakan nyawa manusia.
Awal pekan ini, pemerintah Inggris mengonfirmasi bahwa konferensi tersebut akan berfokus pada risiko seperti penyalahgunaan AI untuk menciptakan senjata biologis, serangan siber, atau sistem canggih tanpa kendali manusia. Selama beberapa bulan terakhir, Bapak Sunak telah memperingatkan tentang risiko yang ditimbulkan oleh AI, mendesak komunitas internasional untuk mengadopsi "rel" guna mencegah penyalahgunaan AI.
Tahun lalu, AI hanya membutuhkan waktu enam jam untuk menyarankan 40.000 molekul berbeda yang berpotensi mematikan, salah satunya menyerupai VX, racun saraf terkuat yang pernah dikembangkan.
Pada awal 2023, para peneliti menemukan bahwa ChatGPT dapat menipu manusia untuk mencapai tujuan tertentu. Chatbot AI ini meyakinkan manusia untuk memecahkan Captcha (alat yang digunakan untuk mendeteksi apakah manusia atau bot yang memanipulasi).
Kekhawatiran utama lainnya adalah munculnya "kecerdasan umum buatan" (AGI), sebuah sistem AI yang dapat melakukan tugas apa pun sebaik atau bahkan lebih baik daripada manusia, yang berpotensi menjadi ancaman bagi umat manusia. Beberapa orang percaya bahwa AGI hanya beberapa tahun lagi. Namun, para ahli AI membantahnya dan menyebut AGI yang tak terkendali sebagai "fiksi ilmiah".
Apa pun masalahnya, Perdana Menteri Sunak ingin memanfaatkan konferensi itu untuk memfokuskan perhatian pada risiko eksistensial ketimbang kemungkinan langsung AI, seperti menciptakan gambar palsu atau menimbulkan diskriminasi jika digunakan untuk membuat keputusan kebijakan publik.
Pemerintah Inggris akan mengalokasikan dana sebesar £100 juta untuk membentuk satuan tugas AI baru guna membantu menguji algoritma yang sedang dikembangkan. Pemerintah ingin mendorong bisnis global untuk mengirimkan kembali perangkat AI ke Inggris untuk dievaluasi sebelum diterapkan secara luas.
Hanya pemerintah yang dapat memastikan bahwa masalah keamanan nasional yang paling penting dapat diatasi, menurut Wakil Perdana Menteri Inggris Oliver Dowden.
Seorang juru bicara pemerintah Inggris mengatakan AI memiliki potensi besar untuk mengubah setiap aspek kehidupan. Gugus Tugas AI telah dibentuk untuk memastikan teknologi ini dikembangkan secara aman dan bertanggung jawab. Konferensi AI akan membahas berbagai potensi risiko.
(Menurut The Guardian)
[iklan_2]
Sumber
Komentar (0)