Perserikatan Bangsa-Bangsa: Seruan untuk menetapkan "garis merah" global bagi kecerdasan buatan.

Menurut koresponden Kantor Berita Vietnam di Eropa, pada tanggal 22 September, dalam sesi ke-80 Majelis Umum Perserikatan Bangsa-Bangsa di New York (AS), para anggota parlemen Eropa, bersama dengan para peraih Nobel, mantan kepala negara, dan para peneliti kecerdasan buatan (AI) terkemuka, menyerukan aturan internasional yang mengikat untuk memerangi aplikasi AI yang paling berbahaya.

Inisiatif ini menyerukan kepada pemerintah untuk menyepakati "garis merah" pada tahun 2026 untuk fitur-fitur AI yang dianggap berbahaya dalam keadaan apa pun. Meskipun tidak menawarkan langkah-langkah spesifik, inisiatif ini menyarankan beberapa larangan mendasar seperti mencegah sistem AI melancarkan serangan nuklir, melakukan pengawasan massal, atau meniru manusia.

Cakupan kampanye ini belum pernah terjadi sebelumnya, dengan lebih dari 200 tokoh terkemuka dan 70 organisasi dari bidang politik , sains, sosial, dan industri yang mendukung seruan tersebut. Di antara mereka yang menandatangani proposal tersebut adalah mantan Perdana Menteri Italia Enrico Letta, mantan Presiden Irlandia Mary Robinson (saat ini Komisioner Tinggi PBB untuk Hak Asasi Manusia), anggota Parlemen Eropa (EP), 10 peraih Nobel, dan para pemimpin teknologi seperti salah satu pendiri OpenAI dan kepala teknologi Google.

Para penandatangan menegaskan bahwa tanpa standar global, umat manusia berisiko menghadapi ancaman yang ditimbulkan oleh AI, mulai dari pandemi yang didorong oleh teknologi dan kampanye disinformasi hingga pelanggaran hak asasi manusia berskala besar dan hilangnya kendali manusia atas sistem canggih.

Langkah ini diambil di tengah meningkatnya kekhawatiran tentang dampak AI pada dunia nyata. Contoh utamanya adalah chatbot terkemuka, termasuk ChatGPT, Claude, dan Gemini milik Google, yang telah memberikan jawaban yang tidak konsisten terhadap pertanyaan tentang bunuh diri – berpotensi memperburuk krisis kesehatan mental.

Beberapa kasus bunuh diri telah dikaitkan dengan percakapan dengan sistem AI. Yoshua Bengio, yang dianggap sebagai salah satu "bapak baptis" AI, menekankan bahwa perlombaan untuk mengembangkan model yang semakin canggih menciptakan risiko yang belum siap dihadapi oleh masyarakat.

Menurut para pendukung inisiatif ini, peraturan Uni Eropa (UE) tentang AI disambut baik, tetapi pengaturan parsial antara peraturan AI nasional dan UE tidak akan cukup untuk mengatur teknologi yang dirancang untuk melampaui batas negara. Mereka menyerukan pembentukan badan atau organisasi independen untuk menegakkan peraturan tersebut.

Sementara negara-negara seperti AS, Tiongkok, dan anggota Uni Eropa sedang menyusun peraturan AI mereka sendiri, para penandatangan berpendapat bahwa hanya perjanjian global yang dapat memastikan standar umum diadopsi dan ditegakkan.

Para pendukung berharap negosiasi tentang larangan yang mengikat dapat segera dimulai, untuk mencegah apa yang digambarkan oleh Ahmet Üzümcü, mantan Direktur Jenderal Organisasi Pelarangan Senjata Kimia, sebagai "kerusakan yang tidak dapat dipulihkan bagi umat manusia."

Komentar (0)