AS dan negara-negara lain meluncurkan 'perjanjian internasional pertama' tentang tata kelola AI

Dalam dokumen 20 halaman yang dirilis pada tanggal 26 November, 18 negara sepakat bahwa perusahaan penelitian dan aplikasi AI perlu mengembangkan dan menerapkan teknologi dengan cara yang melindungi pelanggan dan masyarakat umum dari penyalahgunaan, menurut Reuters.

Perjanjian tersebut tidak mengikat dan terutama membuat rekomendasi umum, seperti memantau sistem AI untuk mendeteksi dan mencegah penyalahgunaan, melindungi data, dan memeriksa vendor perangkat lunak.

Perkembangan AI memicu persaingan di bidang teknologi dan menimbulkan banyak kekhawatiran.

Namun, Jen Easterly, direktur Badan Keamanan Siber dan Infrastruktur AS, mengatakan penting bagi banyak negara untuk berbagi pandangan bahwa sistem AI perlu mengutamakan keselamatan.

"Ini pertama kalinya kami melihat negara-negara sepakat bahwa kemampuan ini bukan hanya tentang daya tarik fiturnya, seberapa cepat kami dapat memasarkannya, atau bagaimana kami dapat bersaing untuk mengurangi biaya," ujar Easterly kepada Reuters. Pejabat tersebut mengatakan bahwa panduan tersebut merupakan "kesepakatan bahwa hal terpenting yang harus dipastikan pada tahap desain adalah keamanan."

Perjanjian ini merupakan yang terbaru dalam serangkaian inisiatif oleh pemerintah di seluruh dunia untuk membentuk pengembangan AI, yang dampaknya semakin terasa di seluruh industri dan masyarakat luas.

Dokumen ini membahas pertanyaan tentang cara melindungi sistem AI dari peretas dan mencakup rekomendasi seperti merilis model baru hanya setelah pengujian keamanan menyeluruh. Panduan baru ini tidak membahas pertanyaan pelik seputar penggunaan AI yang tepat atau cara mengumpulkan data yang menjadi dasar model-model ini.

Maraknya AI telah menimbulkan banyak kekhawatiran, termasuk ketakutan bahwa AI dapat digunakan untuk mengganggu proses demokrasi, mendorong penipuan atau mengakibatkan pengangguran besar-besaran, di antara berbagai bahaya lainnya.

Eropa lebih maju daripada AS dalam memberlakukan regulasi terkait AI. Prancis, Jerman, dan Italia juga baru-baru ini mencapai kesepakatan tentang cara mengatur bidang ini, terkait model-model dasar AI.

Pemerintahan Biden telah menekan para legislator mengenai regulasi AI, tetapi Kongres yang sangat terpolarisasi hanya membuat sedikit kemajuan dalam meloloskan regulasi yang efektif.

Gedung Putih berupaya mengurangi risiko dari AI bagi konsumen, pekerja, dan kaum minoritas sambil memperkuat keamanan nasional dengan perintah eksekutif baru pada bulan Oktober.

Tautan sumber: https://thanhnien.vn/my-va-cac-quoc-gia-he-lo-thoa-thuan-quoc-te-dau-tien-ve-quan-ly-ai-185231127105751353.htm