Tiongkok memperingatkan risiko AI, menyerukan penguatan keamanan nasional

Pernyataan tersebut, yang dikeluarkan setelah pertemuan pada hari Selasa, menggarisbawahi tekad Tiongkok untuk mendapatkan kepemimpinan global dalam teknologi maju dan kekhawatiran tentang potensi bahaya politik dan sosial dari teknologi tersebut.

Presiden Tiongkok Xi Jinping. Foto: NBC

Sebelumnya, para ilmuwan dan pemimpin teknologi di AS, termasuk eksekutif senior di Microsoft dan Google, juga telah mengeluarkan peringatan tentang risiko yang ditimbulkan kecerdasan buatan terhadap umat manusia.

Pertemuan di Beijing membahas perlunya “upaya khusus untuk menjaga keamanan politik dan meningkatkan pengelolaan keamanan data internet dan kecerdasan buatan,” kata Xinhua.

Presiden Xi Jinping telah menyerukan untuk “selalu menyadari situasi kompleks dan menantang yang dihadapi keamanan nasional… Tiongkok membutuhkan model pembangunan baru dengan struktur keamanan baru”.

"Pertemuan Partai terakhir menekankan perlunya menilai potensi risiko, mengambil langkah-langkah pencegahan, melindungi kepentingan rakyat dan keamanan nasional, serta memastikan keamanan, keandalan, dan pengendalian AI," demikian dilaporkan Beijing Youth Daily pada hari Selasa.

Kekhawatiran tentang sistem kecerdasan buatan menjadi lebih pintar daripada manusia dan semakin tidak terkendali semakin meningkat, terutama dengan model bahasa besar seperti ChatGPT.

Sam Altman, CEO OpenAI, pembuat ChatGPT, dan Geoffrey Hinton, seorang ilmuwan komputer yang dikenal sebagai bapak kecerdasan buatan, termasuk di antara ratusan tokoh terkemuka yang menandatangani pernyataan yang diposting pada hari Selasa di situs web Pusat Keamanan AI.

“Mengurangi risiko kepunahan akibat AI harus menjadi prioritas global, di samping risiko-risiko lain yang berskala sosial seperti pandemi dan perang nuklir,” demikian pernyataan tersebut.

Lebih dari 1.000 peneliti dan ilmuwan, termasuk Elon Musk, menandatangani surat awal tahun ini yang menyerukan penghentian sementara pengembangan AI selama enam bulan.

Surat tersebut menyatakan bahwa AI menimbulkan “risiko besar bagi masyarakat dan kemanusiaan” dan beberapa pemangku kepentingan telah mengusulkan perjanjian universal yang diberlakukan PBB untuk mengatur teknologi tersebut.

Tiongkok telah memperingatkan perlunya mengatur AI sejak 2018, tetapi masih mendanai perluasan besar-besaran di bidang tersebut sebagai bagian dari upaya perintis global.

Risiko AI terlihat terutama pada kemampuannya untuk mengendalikan robot, senjata otonom, instrumen keuangan, dan komputer yang mengelola jaringan listrik, pusat perawatan kesehatan , jaringan transportasi, dan infrastruktur penting lainnya.

Hoang Ton (menurut AP)

Sumber: https://www.congluan.vn/trung-quoc-canh-bao-rui-ro-ai-keu-goi-tang-cuong-an-ninh-quoc-gia-post249937.html