Perserikatan Bangsa-Bangsa: Seruan untuk 'garis merah' global terkait kecerdasan buatan

Menurut koresponden VNA di Eropa, pada tanggal 22 September, pada sidang ke-80 Majelis Umum Perserikatan Bangsa-Bangsa di New York (AS), anggota parlemen Eropa, bersama dengan para peraih Nobel, mantan kepala negara, dan peneliti terkemuka di bidang kecerdasan buatan (AI), menyerukan aturan internasional yang mengikat untuk memerangi aplikasi AI yang paling berbahaya.

Inisiatif ini menyerukan pemerintah untuk menyepakati "garis merah" pada tahun 2026 untuk fitur-fitur AI yang dianggap berbahaya dalam segala situasi. Inisiatif ini tidak menawarkan langkah-langkah spesifik, tetapi menyarankan beberapa larangan dasar, seperti mencegah sistem AI meluncurkan serangan nuklir, melakukan pengawasan massal, atau meniru manusia.

Cakupan kampanye ini belum pernah terjadi sebelumnya, dengan lebih dari 200 tokoh terkemuka dan 70 organisasi dari berbagai bidang, mulai dari politik , sains, sosial, hingga industri, mendukung seruan tersebut. Di antara mereka yang menandatangani proposal tersebut adalah mantan Perdana Menteri Italia Enrico Letta, mantan Presiden Irlandia Mary Robinson (kini Komisaris Tinggi PBB untuk Hak Asasi Manusia), anggota Parlemen Eropa (EP), 10 peraih Nobel, dan pemimpin teknologi seperti salah satu pendiri OpenAI dan CTO Google.

Para penandatangan menegaskan bahwa tanpa standar global, umat manusia berisiko menghadapi ancaman yang ditimbulkan oleh AI, mulai dari pandemi yang direkayasa secara teknologi dan kampanye disinformasi hingga pelanggaran hak asasi manusia skala besar dan manusia yang kehilangan kendali atas sistem canggih.

Langkah ini diambil di tengah meningkatnya kekhawatiran tentang dampak AI di dunia nyata. Salah satu contohnya adalah chatbot terkemuka, termasuk ChatGPT milik Google, Claude, dan Gemini, yang memberikan jawaban tidak konsisten atas pertanyaan tentang bunuh diri—yang diyakini memperburuk krisis kesehatan mental.

Beberapa kasus bunuh diri telah dikaitkan dengan percakapan dengan sistem AI. Yoshua Bengio, salah satu yang disebut sebagai "bapak baptis" AI, menekankan bahwa perlombaan untuk mengembangkan model yang semakin canggih menciptakan risiko yang belum siap dihadapi oleh masyarakat.

Regulasi Uni Eropa (UE) tentang AI memang disambut baik, tetapi aturan AI nasional dan Uni Eropa yang beragam tidak akan cukup untuk mengatur teknologi yang dirancang untuk melintasi batas negara, menurut para pendukung inisiatif ini. Mereka menyerukan pembentukan badan atau organisasi independen untuk menegakkan aturan tersebut.

Sementara negara-negara seperti AS, China, dan anggota UE sedang menyusun regulasi AI mereka sendiri, para penandatangan mengatakan hanya kesepakatan global yang dapat memastikan standar umum diadopsi dan ditegakkan.

Para pendukung berharap negosiasi mengenai larangan yang mengikat dapat segera dimulai, untuk mencegah apa yang Ahmet Üzümcü, mantan direktur jenderal Organisasi Pelarangan Senjata Kimia, gambarkan sebagai "kerusakan yang tidak dapat dipulihkan bagi kemanusiaan".

(TTXVN/Vietnam+)

Sumber: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp