China membalas serangan terhadap chatbot AI.

Bot sembang AI mempunyai keupayaan untuk memanipulasi emosi pengguna. Foto: AFP .

China merancang untuk mengetatkan kawalan ke atas bot sembang AI yang mampu mempengaruhi emosi manusia, terutamanya yang mempunyai kandungan yang menggalakkan bunuh diri, mencederakan diri sendiri atau tingkah laku berbahaya yang lain. Langkah ini digariskan dalam draf peraturan baharu yang dikeluarkan oleh Pentadbiran Ruang Siber China pada 27 Disember.

Menurut terjemahan dokumen CNBC , draf tersebut menyasarkan "perkhidmatan kecerdasan buatan interaktif seperti manusia," yang bermaksud sistem AI yang mampu meniru personaliti, tingkah laku dan komunikasi manusia melalui teks, imej, audio atau video . Peraturan ini akan terpakai kepada semua produk dan perkhidmatan AI yang ditawarkan secara awam di China sebaik sahaja dimuktamadkan. Tempoh komen awam dilanjutkan sehingga 25 Januari.

Winston Ma, seorang profesor pelawat di Sekolah Undang-undang Universiti New York (NYU), percaya ini mungkin percubaan pertama dunia untuk mewujudkan rangka kerja perundangan khusus untuk sistem AI dengan ciri-ciri "seperti manusia". Beliau menyatakan bahawa cadangan ini dibuat ketika syarikat-syarikat China sedang mempercepatkan pembangunan pembantu maya AI.

Berbanding dengan peraturan AI China yang dikeluarkan pada tahun 2023, Encik Ma percaya draf baharu itu menunjukkan perubahan fokus daripada "keselamatan kandungan" kepada "keselamatan emosi", yang mencerminkan kebimbangan yang semakin meningkat tentang kesan psikologi AI terhadap pengguna.

Draf peraturan menyatakan bahawa chatbot AI tidak boleh mencipta kandungan yang menggalakkan bunuh diri, mencederakan diri sendiri atau keganasan lisan, mahupun sebarang bentuk manipulasi emosi yang membahayakan kesihatan mental. Sekiranya pengguna meluahkan niat untuk membunuh diri, penyedia perkhidmatan teknologi mesti meminta seseorang mengambil alih perbualan dan segera menghubungi penjaga pengguna atau orang yang ditetapkan.

Tambahan pula, chatbot AI dilarang daripada mencipta kandungan berkaitan perjudian, pornografi atau keganasan. Kanak-kanak bawah umur hanya dibenarkan menggunakan AI untuk sokongan emosi dengan persetujuan penjaga dan mesti mematuhi had masa.

Bot sembang AI, saudara 1

China sedang mengetatkan peraturan mengenai chatbot AI. Foto: Bloomberg .

Cadangan itu diumumkan sejurus selepas dua syarikat baharu chatbot AI utama China, Z.ai dan Minimax, memfailkan tawaran awam permulaan (IPO) di Hong Kong pada bulan Disember.

Minimax dikenali dengan aplikasi Talkie AI dan versi domestiknya, Xingye, yang menyumbang lebih daripada satu pertiga daripada pendapatan syarikat dalam tiga suku pertama tahun ini, dengan purata lebih 20 juta pengguna aktif bulanan. Sementara itu, Z.ai (Zhipu) menyatakan bahawa teknologinya telah digunakan pada kira-kira 80 juta peranti, walaupun ia tidak mendedahkan bilangan pengguna aktif yang khusus.

Dalam konteks global, kesan AI terhadap kesihatan mental manusia semakin mendapat perhatian, memandangkan banyak negara dan syarikat teknologi mula menghadapi risiko sosial yang ditimbulkan oleh teknologi ini.

Sumber: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html