Mencari piawaian keselamatan untuk kecerdasan buatan

SGGP 31/07/2023 09:35

Selepas Eropah mula merangka dan tidak lama lagi melancarkan undang-undang pertama di dunia mengenai kecerdasan buatan (AI), empat "gergasi" perlombongan data internet AS yang terkemuka baru sahaja melancarkan kumpulan yang dipanggil Frontier Model Forum.

Matlamat teras Forum Model Frontier adalah untuk mempromosikan AI yang bertanggungjawab. Foto: THINKWITHNICHE

Parti-parti berkumpul

Kumpulan itu, termasuk Anthropic, Google, Microsoft dan OpenAI, pemilik ChatGPT, berkata matlamat teras Forum Model Frontier adalah untuk membantu mengurangkan risiko yang ditimbulkan oleh platform AI dan membangunkan piawaian industri. Forum Model Frontier akan mewujudkan forum baharu dengan matlamat utama berikut: Mempromosikan penyelidikan keselamatan AI untuk menyokong pembangunan, mengurangkan risiko dan menyeragamkan penilaian dan tahap keselamatan; mengenal pasti amalan terbaik untuk pembangunan dan penggunaan model, dan membantu orang ramai memahami sifat, keupayaan, had dan kesan teknologi; dan bekerjasama dengan penggubal dasar, ahli akademik, masyarakat sivil, dan syarikat untuk berkongsi pengetahuan tentang risiko dan keselamatan.

Gergasi teknologi secara tradisinya menentang peningkatan peraturan, tetapi kali ini, industri teknologi sebahagian besarnya telah mengubah pendiriannya terhadap risiko yang ditimbulkan oleh AI. Syarikat yang terlibat dalam inisiatif Forum Model Frontier telah berjanji untuk berkongsi amalan terbaik di kalangan syarikat dan menyediakan maklumat secara terbuka kepada kerajaan dan masyarakat sivil.

Khususnya, Forum Model Frontier akan menumpukan pada platform pembelajaran mesin berskala besar, namun baru lahir, yang membawa AI ke tahap kecanggihan baharu – yang juga merupakan faktor risiko yang berpotensi. Selain itu, Forum Model Frontier juga akan menyokong pembangunan aplikasi yang menangani cabaran utama masyarakat seperti: pengurangan dan penyesuaian perubahan iklim, pengesanan dan pencegahan kanser awal, dan perlindungan ancaman siber.

Ruang untuk kemungkinan kemusnahan

Pengumuman Forum Model Frontier oleh syarikat AS dibuat beberapa hari selepas senator AS pada 25 Julai memberi amaran tentang risiko AI digunakan untuk serangan bio pada pendengaran di hadapan jawatankuasa kecil Jawatankuasa Kehakiman Senat AS. Baru-baru ini, tujuh syarikat teknologi utama, termasuk OpenAI, Alphabet dan Meta, telah komited secara sukarela kepada Rumah Putih untuk membangunkan sistem untuk melabel semua kandungan daripada teks, imej, audio hingga video yang dicipta oleh AI untuk menyediakan pengguna dengan ketelusan maklumat, bagi memastikan teknologi ini lebih selamat.

Walaupun AI masih belum mampu mencipta senjata biologi, ia merupakan risiko "jangka sederhana" yang boleh menimbulkan ancaman serius kepada keselamatan negara AS dalam tempoh dua hingga tiga tahun akan datang, kata Dario Amodei, Ketua Pegawai Eksekutif AI Anthropic. Ini kerana pelakon yang melakukan serangan biologi berskala besar tidak lagi terhad kepada mereka yang mempunyai pengetahuan khusus dalam subjek itu.

Dunia sedang menghadapi ledakan kandungan yang dicipta oleh teknologi AI generatif. Dari AS ke Eropah ke Asia, langkah kawal selia secara beransur-ansur mengetatkan. Menurut CNN, mulai September, Senat AS akan menganjurkan sembilan bengkel tambahan untuk ahli mempelajari cara AI boleh menjejaskan pekerjaan, keselamatan negara dan harta intelek. Sebelum AS, jika persetujuan dicapai, Kesatuan Eropah akan mempunyai undang-undang pertama di dunia mengenai pengurusan AI tahun depan, dijangka berkuat kuasa pada 2026.

Faedah yang dibawa oleh AI kepada masyarakat tidak dapat dinafikan, tetapi terdapat amaran yang semakin meningkat tentang potensi risiko teknologi baharu ini. Pada bulan Jun, Setiausaha Agung PBB Antonio Guterres menyokong cadangan daripada beberapa eksekutif AI untuk menubuhkan badan pemerhati AI antarabangsa, serupa dengan Agensi Tenaga Atom Antarabangsa (IAEA).

Kembali ke Forum Model Frontier, Presiden Microsoft Brad Smith berkata inisiatif itu merupakan langkah penting dalam membawa syarikat teknologi bersama-sama untuk mempromosikan penggunaan AI yang bertanggungjawab untuk manfaat semua manusia. Begitu juga, Naib Presiden Hal Ehwal Global OpenAI Anna Makanju berkata teknologi AI yang canggih berpotensi untuk membawa manfaat yang mendalam kepada masyarakat, dan ini memerlukan pengawasan dan tadbir urus.

Sumber