OpenAI mengaktifkan mode 18+ di ChatGPT: Bagaimana cara melindungi anak di bawah umur?

OpenAI - Ảnh 1. — Chatbot dewasa dengan verifikasi usia dan peringatan keamanan untuk anak-anak.

Konfirmasi dari OpenAI bahwa mereka akan mengizinkan pengguna dewasa yang terverifikasi untuk mengakses konten dewasa di ChatGPT mulai Desember 2025 dipandang sebagai tonggak penting bagi industri ini, baik untuk mendorong pertumbuhan pasar maupun menetapkan standar baru untuk melindungi anak di bawah umur.

Chatbot dewasa - lintasan balap baru untuk AI.

Platform AI telah dengan cepat menerapkan model untuk memenuhi kebutuhan orang dewasa, mulai dari percakapan intim hingga dukungan emosional.

Menurut CEO Sam Altman, ChatGPT sebelumnya "sangat dibatasi" untuk menghindari risiko kesehatan mental, tetapi pendekatan ini membuat model tersebut "kurang bermanfaat dan kurang menarik" bagi banyak pengguna. Dia mengatakan OpenAI beralih ke prinsip "memperlakukan orang dewasa sebagai orang dewasa."

Penambahan mode akses terkontrol untuk pengguna terverifikasi semakin menghidupkan pasar chatbot dewasa yang sudah berkembang pesat.

Persaingan di pasar semakin ketat setelah xAI milik Elon Musk baru-baru ini dipertanyakan oleh media internasional terkait kemampuannya menciptakan konten dewasa yang berhubungan dengan selebriti, sehingga memunculkan tuntutan mendesak untuk standar perlindungan baru.

"Masalah" verifikasi usia.

Membuka akses ke konten dewasa menghadirkan tantangan besar: memverifikasi usia pengguna. Verifikasi menggunakan dokumen identitas menawarkan keandalan tinggi tetapi membawa risiko terhadap privasi dan keamanan data pribadi. Sementara itu, metode verifikasi berbasis perilaku atau bahasa berbasis AI membutuhkan kumpulan data yang besar, model yang canggih, dan masih membawa risiko dapat dilewati oleh pengguna.

Tantangan ini semakin diperparah oleh karakteristik pembuatan konten AI. Chatbot dapat menghasilkan informasi baru secara real-time, memperluas percakapan dengan cara yang sensitif, atau menafsirkan permintaan yang ambigu menjadi konten yang tidak pantas.

Risiko meningkat secara dramatis ketika model tersebut mendukung berbagai media seperti pembuatan gambar, audio, dan video . Kemampuan apa pun untuk mensimulasikan atau mensintesis konten sensitif yang melibatkan anak di bawah umur, bahkan dalam bentuk simulasi, harus dicegah sepenuhnya, sehingga pengembang perlu menetapkan mekanisme kontrol dari lapisan desain model hingga lapisan penyaringan konten.

Tekanan tanggung jawab pada bisnis AI.

Kabar bahwa OpenAI akan mengaktifkan mode konten dewasa telah menimbulkan kekhawatiran di kalangan banyak organisasi perlindungan anak. Mereka memperingatkan bahwa melegitimasi konten dewasa menggunakan AI dapat secara tidak sengaja mendorong anak di bawah umur untuk mencari cara untuk "melanggar batas".

Di Vietnam, banyak orang tua juga menyatakan kekhawatiran bahwa platform yang secara tradisional dikaitkan dengan pembelajaran, seperti ChatGPT, telah memperkenalkan mode untuk orang dewasa.

Tekanan-tekanan ini memaksa perusahaan AI untuk menerapkan prinsip "keamanan sejak tahap desain" secara menyeluruh: mengendalikan data pelatihan, memantau input dan output, menerapkan filter waktu nyata, dan mempertahankan mekanisme audit reguler.

Transparansi dalam operasional, pengungkapan publik tentang langkah-langkah perlindungan, dan penerimaan umpan balik dari masyarakat menjadi persyaratan wajib untuk menciptakan lingkungan yang aman bagi orang dewasa tanpa menimbulkan risiko bagi kelompok pengguna yang rentan.

Keputusan OpenAI untuk mengizinkan pengguna terverifikasi mengakses konten dewasa bukan hanya tonggak komersial, tetapi juga pengingat bahwa inovasi teknologi harus disertai dengan standar yang bertanggung jawab.

Agar ekosistem AI dapat berkembang secara berkelanjutan, bisnis perlu memprioritaskan keselamatan, menjaga keseimbangan antara inovasi dan tanggung jawab untuk melindungi masyarakat.

SONG TRI

Sumber: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm