OpenAI mendayakan mod 18+ pada ChatGPT: Bagaimana untuk melindungi kanak-kanak bawah umur?

OpenAI - Ảnh 1. — Bot sembang dewasa dengan pengesahan umur dan amaran keselamatan untuk kanak-kanak.

Pengesahan OpenAI bahawa ia akan membenarkan pengguna dewasa yang disahkan untuk mengakses kandungan dewasa di ChatGPT bermula Disember 2025 dilihat sebagai satu pencapaian penting bagi industri ini, kedua-duanya meningkatkan pertumbuhan pasaran dan menetapkan standard baharu untuk melindungi kanak-kanak bawah umur.

Bot sembang dewasa - trek perlumbaan baharu untuk AI.

Platform AI telah menggunakan model dengan pantas untuk memenuhi keperluan orang dewasa, daripada perbualan intim hinggalah sokongan emosi.

Menurut Ketua Pegawai Eksekutif Sam Altman, ChatGPT sebelum ini "sangat terhad" untuk mengelakkan risiko kesihatan mental, tetapi pendekatan ini menjadikan model itu "kurang berguna dan kurang menarik" kepada ramai pengguna. Beliau berkata OpenAI beralih kepada prinsip "melayan orang dewasa seperti orang dewasa."

Penambahan mod akses terkawal untuk pengguna yang disahkan telah memeriahkan lagi pasaran chatbot dewasa yang sedia berkembang pesat.

Landskap persaingan menjadi lebih jelas apabila xAI Elon Musk baru-baru ini dipersoalkan oleh media antarabangsa mengenai keupayaannya untuk mencipta kandungan dewasa berkaitan selebriti, sekali gus menimbulkan tuntutan segera untuk piawaian perlindungan baharu.

"Masalah" pengesahan umur.

Membuka akses kepada kandungan dewasa memberikan cabaran besar: mengesahkan umur pengguna. Pengesahan menggunakan dokumen pengenalan menawarkan kebolehpercayaan yang tinggi tetapi membawa risiko kepada privasi dan keselamatan data peribadi. Sementara itu, kaedah pengesahan berasaskan tingkah laku atau bahasa berasaskan AI memerlukan set data yang besar, model yang canggih dan masih membawa risiko dipintas oleh pengguna.

Cabaran ini diperkuatkan lagi oleh ciri-ciri penjanaan kandungan AI. Chatbot boleh menjana maklumat baharu dalam masa nyata, mengembangkan perbualan dengan cara yang sensitif atau mentafsir permintaan yang samar-samar kepada kandungan yang tidak sesuai.

Risiko meningkat secara mendadak apabila model menyokong pelbagai media seperti penciptaan imej, audio dan video . Sebarang keupayaan untuk mensimulasikan atau mensintesis kandungan sensitif yang melibatkan perkara bawah umur, walaupun dalam bentuk simulasi, mesti dihalang sepenuhnya, yang memerlukan pembangun mewujudkan mekanisme kawalan daripada lapisan reka bentuk model hingga lapisan penapisan kandungan.

Tekanan tanggungjawab terhadap perniagaan AI.

Berita bahawa OpenAI bakal mengaktifkan mod kandungan dewasa telah menimbulkan kebimbangan dalam kalangan banyak organisasi perlindungan kanak-kanak. Mereka memberi amaran bahawa mengesahkan kandungan dewasa menggunakan AI secara tidak sengaja boleh menggalakkan kanak-kanak bawah umur mencari jalan untuk "melangkaui batas".

Di Vietnam, ramai ibu bapa juga telah menyatakan kebimbangan bahawa platform yang secara tradisinya dikaitkan dengan pembelajaran, seperti ChatGPT, telah memperkenalkan mod untuk orang dewasa.

Tekanan ini memaksa syarikat AI untuk melaksanakan prinsip "keselamatan melalui reka bentuk" secara menyeluruh: mengawal data latihan, memantau input dan output, menggunakan penapis masa nyata dan menyelenggara mekanisme audit yang kerap.

Ketelusan dalam operasi, pendedahan awam tentang langkah-langkah perlindungan dan penerimaan maklum balas komuniti menjadi keperluan mandatori untuk mewujudkan persekitaran yang selamat untuk orang dewasa tanpa menimbulkan risiko kepada kumpulan pengguna yang terdedah.

Keputusan OpenAI untuk membenarkan pengguna yang disahkan mengakses kandungan dewasa bukan sahaja merupakan satu peristiwa penting komersial tetapi juga peringatan bahawa inovasi teknologi mesti disertakan dengan piawaian yang bertanggungjawab.

Agar ekosistem AI berkembang maju secara lestari, perniagaan perlu mengutamakan keselamatan, mengekalkan keseimbangan antara inovasi dan tanggungjawab untuk melindungi komuniti.

SONG TRI

Sumber: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm