OpenAI вмикає режим 18+ на ChatGPT: Як захистити неповнолітніх?

OpenAI - Ảnh 1. — Чат-бот для дорослих з перевіркою віку та сповіщеннями про безпеку для дітей.

Підтвердження OpenAI того, що починаючи з грудня 2025 року компанія дозволить перевіреним дорослим користувачам доступ до контенту для дорослих на ChatGPT, розглядається як важлива подія для галузі, яка одночасно стимулює зростання ринку та встановлює новий стандарт захисту неповнолітніх.

Чат-боти для дорослих – нова гоночна траса для штучного інтелекту.

Платформи штучного інтелекту швидко розгорнули моделі для задоволення потреб дорослих, від інтимних розмов до емоційної підтримки.

За словами генерального директора Сема Альтмана, ChatGPT раніше був «суттєво обмежений», щоб уникнути ризиків для психічного здоров’я, але такий підхід зробив модель «менш корисною та менш привабливою» для багатьох користувачів. Він сказав, що OpenAI переходить до принципу «ставлення до дорослих як до дорослих».

Додавання режиму контрольованого доступу для перевірених користувачів ще більше оживило і без того швидко зростаючий ринок чат-ботів для дорослих.

Конкурентне середовище стало ще чіткішим, оскільки міжнародні ЗМІ нещодавно поставили під сумнів здатність штучного інтелекту Ілона Маска створювати контент для дорослих, пов'язаний зі знаменитостями, що викликало нагальні вимоги щодо нових стандартів захисту.

«Проблема» перевірки віку.

Відкриття доступу до контенту для дорослих створює серйозну проблему: перевірку віку користувача. Перевірка за допомогою документів, що посвідчують особу, забезпечує високу надійність, але несе ризики для конфіденційності та безпеки персональних даних. Тим часом, методи перевірки на основі поведінки або мови на основі штучного інтелекту вимагають великих наборів даних, складних моделей і все ще несуть ризик того, що користувачі їх обійдуть.

Проблема ще більше посилюється характеристиками генерації контенту за допомогою штучного інтелекту. Чат-боти можуть генерувати нову інформацію в режимі реального часу, розширювати розмови делікатними способами або інтерпретувати неоднозначні запити як неприйнятний контент.

Ризики різко зростають, коли модель підтримує створення кількох медіафайлів, таких як зображення, аудіо та відео . Будь-яка можливість імітації або синтезу чутливого контенту, що стосується неповнолітніх, навіть у симульованій формі, має бути категорично виключена, що вимагає від розробників встановлення механізмів контролю від рівня проектування моделі до рівня фільтрації контенту.

Тиск відповідальності на бізнеси, що займаються штучним інтелектом.

Новина про те, що OpenAI ось-ось активує режим контенту для дорослих, викликала занепокоєння серед багатьох організацій із захисту дітей. Вони попереджають, що легітимізація контенту для дорослих за допомогою штучного інтелекту може ненавмисно спонукати неповнолітніх шукати способи «переступити межу».

У В'єтнамі багато батьків також висловили стурбованість тим, що платформа, яка традиційно асоціюється з навчанням, така як ChatGPT, запровадила режим для дорослих.

Цей тиск змушує компанії, що займаються штучним інтелектом, ретельно впроваджувати принцип «безпеки за проектуванням»: контролювати навчальні дані, відстежувати вхідні та вихідні дані, розгортати фільтри в режимі реального часу та підтримувати регулярні механізми аудиту.

Прозорість операцій, публічне розкриття інформації про захисні заходи та прийняття відгуків спільноти стають обов’язковими вимогами для створення безпечного середовища для дорослих без створення ризиків для вразливих груп користувачів.

Рішення OpenAI дозволити перевіреним користувачам доступ до контенту для дорослих є не лише комерційною віхою, а й нагадуванням про те, що технологічні інновації повинні супроводжуватися відповідальними стандартами.

Для сталого процвітання екосистеми штучного інтелекту підприємствам необхідно пріоритезувати безпеку, підтримуючи баланс між інноваціями та відповідальністю за захист громади.

ПІСНЯ ТРІ

Джерело: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm