OpenAI запускає функцію моніторингу дітей у ChatGPT після багатьох суперечок

OpenAI запускає функцію моніторингу дітей у ChatGPT після багатьох суперечок – Фото 1.

Функція моніторингу дітей у ChatGPT також допомагає батькам почуватися безпечніше, дозволяючи своїм дітям використовувати штучний інтелект.

Майбутній інструмент для моніторингу дітей ChatGPT розглядається як зміна безпеки порівняно з OpenAI після гучного судового позову. Ця функція має на меті зменшити ризики спілкування дітей з чат-ботами, а також порушує питання щодо соціальної відповідальності компаній, що займаються штучним інтелектом.

Зі шокуючого судового позову

Минулого серпня родина Адама Рейна, 16-річного хлопця з Каліфорнії, подала позов проти OpenAI, стверджуючи, що ChatGPT надавав інструкції щодо самоушкодження та словесні образи, через які їхній син почувався безнадійно, перш ніж скоїти самогубство.

Позов швидко викликав ажіотаж і розпочав дискусію щодо безпеки штучного інтелекту для молодих користувачів.

Цей інцидент порушує важливі питання: чи повинні неповнолітні використовувати ChatGPT без нагляду, і як слід визначати відповідальність розробників штучного інтелекту, коли продукт безпосередньо впливає на психологію юних користувачів?

У відповідь на цей тиск, OpenAI оголосила про додавання батьківського контролю, що стало першим кроком до демонстрації своєї відданості захисту дітей та сигналу про те, що компанія готова поставити безпеку на перше місце на наступному етапі розробки ChatGPT.

Функції моніторингу в ChatGPT

Згідно з офіційним оголошенням, OpenAI запустить інструмент, який дозволить батькам пов’язувати свої облікові записи з обліковими записами ChatGPT своїх дітей. Після активації батьки зможуть керувати важливими налаштуваннями, такими як вимкнення зберігання чатів, контроль історії використання та налаштування рівнів взаємодії відповідно до віку.

Родзинкою цього нововведення є система сповіщень. ChatGPT буде навчено розпізнавати, коли молоді користувачі демонструють ознаки психологічного дистресу, такі як стрес, депресія або самоушкодження. У таких випадках батьки отримають сповіщення для негайного втручання. OpenAI стверджує, що метою є не моніторинг усієї розмови, а зосередження на термінових ситуаціях для захисту безпеки дітей.

Крім того, коли виявляється конфіденційний контент, ChatGPT перемикається на моделі глибокого мислення, розроблені для забезпечення більш продуманих та підтримуючих відповідей. Паралельно компанія співпрацює з медичними експертами та міжнародною консультативною радою, щоб продовжувати вдосконалювати свої засоби захисту в майбутньому.

Виклики, що постали

Хоча OpenAI наголошує, що нова функція розроблена для користі сімей, міжнародна реакція була неоднозначною. Очікується, що інструмент забезпечить додатковий рівень захисту для батьків, коли їхні діти взаємодіють зі штучним інтелектом, але він також викликав давні занепокоєння, від обмежень використання до конфіденційності даних дітей.

Фактично, експерти роками висловлювали занепокоєння щодо конфіденційності даних дітей. Ці попередження підкреслюють, що зберігання та аналіз історії чатів дітей без суворого захисту може збільшити ризик розголошення конфіденційної інформації. Поява інструменту моніторингу ChatGPT знову привернула увагу до цієї проблеми.

Ще одним обговорюваним питанням був поріг попередження системи. OpenAI заявила, що ChatGPT виявлятиме ознаки сильного стресу та надсилатиме сповіщення батькам.

Однак машинне навчання завжди несе ризик помилки. Якщо система видає хибний сигнал, батьки можуть бути непотрібно збентежені. І навпаки, якщо вона пропускає сигнал, діти можуть зіткнутися з ризиками, з якими сім'ї не зможуть вчасно втрутитися.

Міжнародні організації із захисту дітей також уважно стежать за діями OpenAI, визнаючи інструмент батьківського контролю позитивним знаком, але попереджаючи, що відсутність суворої перевірки віку та захисту за замовчуванням означає, що діти все ще можуть перебувати в небезпеці, навіть за наявності батьківського нагляду.

Ці дебати показують, що розвиток штучного інтелекту — це не лише питання технологій, а й тісно пов'язаний із соціальною відповідальністю та безпекою молодого покоління.

Тхань Чт

Джерело: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm