China memberi amaran tentang risiko AI, seruan untuk mengukuhkan keselamatan negara

Kenyataan yang dikeluarkan selepas mesyuarat pada hari Selasa, menggariskan keazaman China untuk mendapatkan kepimpinan global dalam teknologi termaju dan kebimbangan mengenai potensi bahaya politik dan sosial teknologi tersebut.

China memberi amaran tentang risiko dan seruan untuk mengukuhkan keselamatan negara, imej 1 — Presiden China Xi Jinping. Foto: NBC

Sebelum ini, saintis dan pemimpin teknologi di AS, termasuk eksekutif kanan di Microsoft dan Google, turut mengeluarkan amaran tentang risiko yang ditimbulkan oleh kecerdasan buatan kepada manusia.

Mesyuarat di Beijing membincangkan keperluan untuk "usaha khusus untuk menjaga keselamatan politik dan meningkatkan pengurusan keselamatan data internet dan kecerdasan buatan," kata Xinhua.

Presiden Xi Jinping telah menyeru agar "sentiasa peka dengan situasi kompleks dan mencabar yang dihadapi oleh keselamatan negara... China memerlukan model pembangunan baharu dengan struktur keselamatan baharu".

“Mesyuarat Parti terbaharu menekankan keperluan untuk menilai potensi risiko, mengambil langkah pencegahan, melindungi kepentingan rakyat dan keselamatan negara, dan memastikan keselamatan, kebolehpercayaan dan kawalan AI,” lapor Beijing Youth Daily pada hari Selasa.

Kebimbangan tentang sistem kecerdasan buatan menjadi lebih pintar daripada manusia dan semakin tidak terkawal, terutamanya dengan model bahasa yang besar seperti ChatGPT.

Sam Altman, Ketua Pegawai Eksekutif OpenAI, pembuat ChatGPT, dan Geoffrey Hinton, seorang saintis komputer yang dikenali sebagai bapa kecerdasan buatan, adalah antara ratusan tokoh terkemuka yang menandatangani kenyataan hari Selasa yang disiarkan di laman web Pusat Keselamatan AI.

"Meminimumkan risiko kepupusan daripada AI mesti menjadi keutamaan global di samping risiko berskala masyarakat lain seperti wabak dan perang nuklear," kata kenyataan itu.

Lebih daripada 1,000 penyelidik dan saintis, termasuk Elon Musk, menandatangani surat awal tahun ini yang menyeru agar berhenti selama enam bulan dalam pembangunan AI.

Surat itu berkata AI menimbulkan "risiko yang mendalam kepada masyarakat dan manusia" dan beberapa pihak berkepentingan telah mencadangkan perjanjian yang diketuai PBB untuk mengawal selia teknologi.

China telah memberi amaran tentang keperluan untuk mengawal selia AI sejak 2018, tetapi masih membiayai pengembangan besar-besaran dalam bidang itu sebagai sebahagian daripada usaha perintis global.

Risiko AI dilihat terutamanya dalam keupayaannya mengawal robot, senjata autonomi, instrumen kewangan dan komputer yang mengurus grid kuasa, pusat perubatan , rangkaian pengangkutan dan infrastruktur kritikal yang lain.

Hoang Ton (mengikut AP)

Sumber