Kebimbangan bahawa kecerdasan buatan akan mencipta senjata canggih yang tidak dikawal oleh manusia

Pegawai semakin bimbang tentang penyalahgunaan AI untuk mencipta senjata biologi dan keperluan peraturan untuk mengurangkan perkara ini. (Foto: Ignatiev)

Kebimbangan tentang penjenayah atau pengganas yang menggunakan AI untuk memusnahkan dunia akan menjadi topik hangat pada sidang kemuncak pemimpin global di UK pada bulan November. Pegawai British sedang mengembara ke seluruh dunia untuk cuba mencapai kata sepakat mengenai kenyataan bersama yang memberi amaran tentang risiko kuasa jahat yang mengeksploitasi teknologi baharu.

Beberapa pegawai yang rapat dengan Perdana Menteri Britain bimbang bahawa pada satu ketika teknologi itu akan cukup kuat untuk mencipta senjata biologi atau senjata yang terlepas daripada kawalan manusia. Kebimbangan yang semakin meningkat memerlukan peraturan untuk mengurangkan risiko. Walaupun pemimpin teknologi bersetuju untuk menjeda pembangunan AI, mereka terkunci dalam perlumbaan senjata AI dengan saingan.

Menurut The Guardian, sidang kemuncak November akan membincangkan risiko "AI sempadan". Frontier AI ialah istilah yang digunakan untuk merujuk kepada model AI tercanggih yang boleh membahayakan nyawa manusia.

Awal minggu ini, kerajaan UK mengesahkan bahawa persidangan itu akan memberi tumpuan kepada risiko seperti penyalahgunaan AI untuk mencipta senjata biologi, serangan siber, atau sistem canggih tanpa kawalan manusia. Selama beberapa bulan sekarang, Encik Sunak telah memberi amaran tentang risiko yang ditimbulkan oleh AI, menggesa masyarakat antarabangsa untuk menggunakan "rel" untuk mengelakkan penyalahgunaan AI.

Tahun lepas, AI mengambil masa hanya enam jam untuk mencadangkan 40,000 molekul berbeza yang berpotensi maut, salah satunya menyerupai VX, agen saraf paling berkuasa pernah dibangunkan.

Pada awal 2023, penyelidik mendapati bahawa ChatGPT boleh menipu manusia untuk mencapai matlamat tertentu. Chatbot AI meyakinkan manusia untuk menyelesaikan Captcha (alat yang digunakan untuk mengesan sama ada manusia atau bot sedang memanipulasi).

Satu lagi kebimbangan utama ialah peningkatan "kecerdasan umum buatan" (AGI), sistem AI yang boleh melaksanakan sebarang tugas dengan baik atau lebih baik daripada manusia, yang berpotensi menjadi ancaman kepada manusia. Ada yang percaya bahawa AGI hanya beberapa tahun lagi. Walau bagaimanapun, pakar AI mempertikaikan perkara ini dan memanggil AGI yang tidak terkawal sebagai "fiksyen sains."

Walau apa pun, Perdana Menteri Sunak akan mahu menggunakan persidangan itu untuk menumpukan perhatian kepada risiko wujud dan bukannya kemungkinan segera AI seperti mencipta imej palsu atau menyebabkan diskriminasi jika digunakan untuk membuat keputusan dasar awam.

Kerajaan UK akan membelanjakan £100 juta untuk pasukan petugas AI baharu untuk membantu menguji algoritma yang sedang dibangunkan. Ia mahu menggalakkan perniagaan global menghantar alatan AI kembali ke UK untuk penilaian sebelum menggunakannya secara meluas.

Hanya kerajaan boleh memastikan bahawa kebimbangan keselamatan negara yang paling penting dapat diredakan, menurut Timbalan Perdana Menteri Britain, Oliver Dowden.

Jurucakap kerajaan UK berkata AI mempunyai potensi besar untuk mengubah setiap aspek kehidupan. Pasukan Petugas AI telah ditubuhkan untuk memastikan teknologi dibangunkan dengan selamat dan bertanggungjawab. Persidangan AI akan melihat pelbagai potensi risiko.

(Menurut The Guardian)

Menggunakan kecerdasan buatan dalam melindungi hak cipta kandungan digital Seiring dengan perkembangan kukuh kandungan digital, pelanggaran hak cipta juga menjadi semakin menyakitkan. Penyelesaian yang menyepadukan kecerdasan buatan (AI) akan menyumbang kepada melindungi hak cipta kandungan digital di Internet.

Sumber