China membalas serangan terhadap chatbot AI.

Regulasi baru ini akan membantu China memperketat kontrol atas chatbot AI, dengan tujuan mencegah konten yang berkaitan dengan bunuh diri, perjudian, dan pornografi.

Chatbot AI memiliki kemampuan untuk memanipulasi emosi pengguna. Foto: AFP .

China berencana memperketat kontrol terhadap chatbot AI yang mampu memengaruhi emosi manusia, khususnya yang berisi konten yang mendorong bunuh diri, melukai diri sendiri, atau perilaku berbahaya lainnya. Langkah ini diuraikan dalam draf peraturan baru yang dirilis oleh Administrasi Ruang Siber China pada 27 Desember.

Menurut terjemahan CNBC atas dokumen tersebut , rancangan tersebut menargetkan "layanan kecerdasan buatan interaktif yang menyerupai manusia," yang berarti sistem AI yang mampu meniru kepribadian, perilaku, dan komunikasi manusia melalui teks, gambar, audio, atau video . Regulasi ini akan berlaku untuk semua produk dan layanan AI yang ditawarkan secara publik di Tiongkok setelah difinalisasi. Periode komentar publik diperpanjang hingga 25 Januari.

Winston Ma, seorang profesor tamu di Fakultas Hukum Universitas New York (NYU), percaya bahwa ini bisa menjadi upaya pertama di dunia untuk menetapkan kerangka hukum khusus untuk sistem AI dengan karakteristik "mirip manusia". Ia mencatat bahwa proposal ini muncul ketika perusahaan-perusahaan Tiongkok mempercepat pengembangan asisten virtual AI.

Dibandingkan dengan peraturan AI China yang dikeluarkan pada tahun 2023, Bapak Ma percaya bahwa draf baru ini menunjukkan pergeseran fokus dari "keamanan konten" ke "keamanan emosional," yang mencerminkan meningkatnya kekhawatiran tentang dampak psikologis AI pada pengguna.

Draf peraturan tersebut menyatakan bahwa chatbot AI tidak boleh membuat konten yang mendorong bunuh diri, melukai diri sendiri, atau kekerasan verbal, maupun bentuk manipulasi emosional apa pun yang membahayakan kesehatan mental. Dalam kasus di mana pengguna menyatakan niat bunuh diri, penyedia layanan teknologi harus menugaskan seseorang untuk mengambil alih percakapan dan segera menghubungi wali atau orang yang ditunjuk pengguna.

Selain itu, chatbot AI dilarang membuat konten yang berkaitan dengan perjudian, pornografi, atau kekerasan. Anak di bawah umur hanya diperbolehkan menggunakan AI untuk dukungan emosional dengan persetujuan wali dan harus mematuhi batasan waktu.

China memperketat regulasi terhadap chatbot AI. Foto: Bloomberg .

Proposal tersebut diumumkan tak lama setelah dua perusahaan rintisan chatbot AI besar asal Tiongkok, Z.ai dan Minimax, mengajukan penawaran umum perdana (IPO) di Hong Kong pada bulan Desember.

Minimax dikenal dengan aplikasi Talkie AI dan versi domestiknya, Xingye, yang menyumbang lebih dari sepertiga pendapatan perusahaan dalam tiga kuartal pertama tahun ini, dengan rata-rata lebih dari 20 juta pengguna aktif bulanan. Sementara itu, Z.ai (Zhipu) menyatakan bahwa teknologinya telah diterapkan pada sekitar 80 juta perangkat, meskipun tidak mengungkapkan angka spesifik pengguna aktif.

Dalam konteks global, dampak AI terhadap kesehatan mental manusia semakin mendapat perhatian, karena banyak negara dan perusahaan teknologi mulai menghadapi risiko sosial yang ditimbulkan oleh teknologi ini.

Sumber: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html