Mencari piawaian keselamatan untuk kecerdasan buatan

SGGP 31 Julai 2023 09:35

Selepas Eropah mula merangka dan tidak lama lagi melancarkan undang-undang pertama di dunia mengenai kecerdasan buatan (AI), empat gergasi perlombongan data internet terkemuka AS baru sahaja melancarkan kumpulan yang dipanggil Frontier Model Forum.

Matlamat teras Forum Model Frontier adalah untuk mempromosikan AI secara bertanggungjawab. Foto: THINKWITHNICHE

Parti semakin rapat

Kumpulan itu, termasuk Anthropic, Google, Microsoft, dan OpenAI, pemilik ChatGPT, berkata matlamat teras Forum Model Frontier adalah untuk membantu mengurangkan risiko yang ditimbulkan oleh platform AI dan membangunkan piawaian industri. Forum Model Frontier akan mewujudkan forum baharu dengan matlamat utama berikut: Mempromosikan penyelidikan keselamatan AI untuk menyokong pembangunan, mengurangkan risiko dan menyeragamkan penilaian dan tahap keselamatan; mengenal pasti amalan terbaik untuk pembangunan dan penggunaan model; membantu orang ramai memahami sifat, keupayaan, batasan dan kesan teknologi; dan bekerjasama dengan penggubal dasar, ahli akademik, masyarakat sivil, dan syarikat untuk berkongsi pengetahuan tentang risiko dan keselamatan.

Gergasi teknologi secara tradisinya menentang peningkatan peraturan, tetapi kali ini, industri teknologi secara amnya telah mengubah pendiriannya terhadap kebimbangan yang semakin meningkat tentang risiko yang ditimbulkan oleh AI. Syarikat-syarikat yang terlibat dalam inisiatif Forum Model Frontier telah berjanji untuk berkongsi amalan terbaik merentas syarikat, dan menyediakan maklumat secara terbuka kepada kerajaan dan masyarakat sivil.

Khususnya, Forum Model Frontier akan menumpukan pada platform pembelajaran mesin berskala besar, namun masih baru, yang membawa AI ke tahap kecanggihan baharu – yang juga merupakan faktor risiko yang berpotensi. Selain itu, Forum Model Frontier juga akan menyokong pembangunan aplikasi yang menangani cabaran utama masyarakat seperti: pengurangan dan penyesuaian perubahan iklim, pengesanan dan pencegahan kanser awal, dan menentang ancaman siber.

Ruang untuk kemungkinan kemusnahan

Pengumuman Forum Model Frontier oleh syarikat AS dibuat beberapa hari selepas senator AS pada 25 Julai memberi amaran tentang risiko AI digunakan untuk serangan biologi pada pendengaran di hadapan jawatankuasa kecil Jawatankuasa Kehakiman Senat AS. Baru-baru ini, tujuh syarikat teknologi utama, termasuk OpenAI, Alphabet dan Meta, telah komited secara sukarela kepada Rumah Putih untuk membangunkan sistem bagi mengenal pasti semua kandungan daripada teks, imej, audio hingga video yang dicipta oleh AI untuk memastikan ketelusan untuk pengguna, bagi memastikan teknologi ini lebih selamat.

Dario Amodei, Ketua Pegawai Eksekutif AI Anthropic, menyatakan bahawa walaupun AI belum mampu mencipta senjata biologi, ia adalah risiko "jangka sederhana" dan menimbulkan ancaman serius kepada keselamatan negara AS dalam dua atau tiga tahun akan datang. Sebabnya, subjek yang melakukan serangan senjata biologi berskala besar tidak lagi terhad kepada mereka yang mempunyai pengetahuan khusus dalam perkara ini.

Dunia sedang menghadapi ledakan kandungan yang dicipta oleh teknologi AI generatif. Dari AS, Eropah hingga Asia, kawalan secara beransur-ansur mengetatkan. Menurut CNN, mulai September, Senat AS akan mengadakan satu siri sembilan bengkel tambahan untuk ahli mempelajari bagaimana AI boleh menjejaskan pekerjaan, keselamatan negara dan harta intelek. Sebelum AS, jika persetujuan dicapai, Kesatuan Eropah akan mempunyai undang-undang pertama di dunia mengenai pengurusan AI tahun depan, dijangka berkuat kuasa mulai 2026.

Faedah yang dibawa oleh AI kepada masyarakat tidak dapat dinafikan, tetapi terdapat amaran yang semakin meningkat tentang potensi risiko teknologi baharu ini. Pada bulan Jun, Setiausaha Agung PBB Antonio Guterres menyokong cadangan daripada beberapa eksekutif AI untuk menubuhkan badan pemerhati AI antarabangsa, serupa dengan Agensi Tenaga Atom Antarabangsa (IAEA).

Kembali ke Forum Model Frontier, Presiden Microsoft Brad Smith berkata inisiatif itu merupakan langkah penting dalam membawa syarikat teknologi bersama-sama untuk mempromosikan penggunaan AI yang bertanggungjawab untuk manfaat semua manusia. Begitu juga, Naib Presiden Hal Ehwal Global OpenAI Anna Makanju berkata teknologi AI yang canggih berpotensi untuk membawa manfaat yang mendalam kepada masyarakat, dan ini memerlukan pengawasan dan tadbir urus.

Sumber