China dan Barat mengenal pasti 'garis merah' pada risiko AI

Sekumpulan pakar antarabangsa terkemuka bertemu di Beijing minggu lalu, di mana mereka mengenal pasti "garis merah" dalam pembangunan AI, termasuk penciptaan senjata biologi dan melakukan serangan siber.

Dalam satu kenyataan beberapa hari selepas mesyuarat itu, ahli akademik memberi amaran bahawa pendekatan biasa terhadap keselamatan AI diperlukan untuk mencegah "risiko malapetaka atau wujud kepada manusia sepanjang hayat kita."

"Pada kemuncak Perang Dingin, kerajaan antarabangsa dan kerjasama saintifik membantu mencegah malapetaka nuklear. Manusia perlu sekali lagi bekerjasama untuk mencegah malapetaka yang mungkin timbul daripada teknologi yang tidak pernah berlaku sebelum ini," kata kenyataan itu.

Pakar di Dialog Antarabangsa mengenai Keselamatan AI di Beijing telah mengenal pasti "garis merah" dalam pembangunan AI. Foto: FT

Penandatangan termasuk Geoffrey Hinton dan Yoshua Bengio, yang sering digambarkan sebagai "bapa" AI; Stuart Russell, seorang profesor sains komputer di Universiti California; dan Andrew Yao, salah seorang saintis komputer yang paling terkemuka di China.

Kenyataan itu dikeluarkan selepas Dialog Keselamatan AI Antarabangsa di Beijing minggu lalu, mesyuarat yang dihadiri oleh pegawai kerajaan China untuk menyatakan persetujuan mereka terhadap forum dan hasilnya.

Presiden AS Joe Biden dan Presiden China Xi Jinping bertemu pada November tahun lalu dan membincangkan keselamatan AI, bersetuju untuk mewujudkan dialog mengenai isu itu. Syarikat AI global terkemuka juga telah bertemu secara peribadi dengan pakar AI China dalam beberapa bulan kebelakangan ini.

Pada November 2023, 28 negara, termasuk China, dan syarikat AI terkemuka bersetuju dengan komitmen luas untuk bekerjasama menangani risiko wujud yang berpunca daripada AI lanjutan semasa sidang kemuncak keselamatan AI Canselor UK Rishi Sunak.

Di Beijing minggu lalu, pakar membincangkan ancaman yang berkaitan dengan pembangunan "Kecerdasan Am Buatan - AGI," atau sistem AI yang sama atau lebih tinggi daripada manusia.

"Fokus teras perbincangan ialah garis merah yang tidak boleh dilalui oleh sistem AI yang berkuasa dan kerajaan di seluruh dunia harus mengenakan dalam pembangunan dan penggunaan AI," kata Bengio.

Garis merah ini akan memastikan bahawa "tiada sistem AI boleh meniru atau memperbaiki dirinya sendiri tanpa persetujuan dan sokongan manusia yang jelas" atau "mengambil tindakan yang terlalu meningkatkan kuasa dan pengaruhnya."

Para saintis menambah bahawa tiada sistem akan "meningkatkan dengan ketara keupayaan pelakon untuk mereka bentuk senjata pemusnah besar-besaran, melanggar konvensyen senjata biologi atau kimia" atau dapat "melakukan serangan siber secara automatik yang mengakibatkan kerugian kewangan yang serius atau bahaya yang setara".

Hoang Hai (menurut FT)

Sumber: https://www.congluan.vn/cac-nha-khoa-hoc-trung-quoc-va-phuong-tay-xac-dinh-ranh-gioi-do-ve-rui-ro-ai-post288416.html