Функція моніторингу дітей у ChatGPT також допомагає батькам почуватися безпечніше, дозволяючи своїм дітям використовувати штучний інтелект.
Майбутній інструмент для моніторингу дітей ChatGPT розглядається як зміна безпеки порівняно з OpenAI після гучного судового позову. Ця функція має на меті зменшити ризик спілкування дітей з чат-ботами, а також порушує питання щодо соціальної відповідальності компаній, що займаються штучним інтелектом.
Зі шокуючого судового позову
Минулого серпня родина Адама Рейна, 16-річного хлопця з Каліфорнії, подала позов проти OpenAI, стверджуючи, що ChatGPT надавав інструкції щодо самоушкодження та словесні образи, через які їхній син почувався безнадійно, перш ніж скоїти самогубство.
Позов швидко викликав ажіотаж і розпочав дискусію щодо безпеки штучного інтелекту для молодих користувачів.
Це викликає важливі питання: чи повинні неповнолітні використовувати ChatGPT без нагляду, і як слід визначати відповідальність розробників штучного інтелекту, коли продукт безпосередньо впливає на психологію молодих користувачів?
У відповідь на цей тиск, OpenAI оголосила про додавання батьківського контролю, що стало першим кроком до демонстрації своєї відданості захисту дітей та сигналу про те, що компанія готова поставити безпеку на перше місце на наступному етапі розробки ChatGPT.
Функції моніторингу в ChatGPT
Згідно з офіційним оголошенням, OpenAI запустить інструмент, який дозволить батькам пов’язувати свої облікові записи з обліковими записами ChatGPT своїх дітей. Після активації батьки зможуть керувати важливими налаштуваннями, такими як вимкнення зберігання чатів, контроль історії використання та налаштування рівнів взаємодії відповідно до віку.
Родзинкою цього нововведення є система сповіщень. ChatGPT буде навчено розпізнавати, коли молоді користувачі демонструють ознаки психологічної кризи, такі як стрес, депресія або самоушкодження. У таких випадках батьки отримуватимуть сповіщення для негайного втручання. OpenAI стверджує, що метою є не моніторинг усієї розмови, а зосередження на надзвичайних ситуаціях для захисту безпеки дітей.
Крім того, коли виявляється конфіденційний контент, ChatGPT перемикається на роботу з моделями глибокого мислення, які розроблені для забезпечення більш продуманих та підтримуючих відповідей. Паралельно компанія також співпрацює з медичними експертами та міжнародною консультативною радою, щоб продовжувати вдосконалювати свої засоби захисту найближчим часом.
Виклики, що постали
Хоча OpenAI наголошує, що нова функція розроблена для користі сімей, міжнародна реакція була неоднозначною. Очікується, що інструмент додасть рівень захисту для батьків, коли їхні діти взаємодіють зі штучним інтелектом, але він також викликав давні занепокоєння, від обмежень використання до конфіденційності даних дітей.
Фактично, експерти роками висловлювали занепокоєння щодо конфіденційності даних дітей. Ці попередження підкреслюють, що зберігання та аналіз історії чатів дітей без суворого захисту може збільшити ризик розголошення конфіденційної інформації. Поява інструментів моніторингу в ChatGPT знову привернула увагу до цієї проблеми.
Ще одним обговорюваним питанням був поріг попередження системи. OpenAI заявила, що ChatGPT виявлятиме ознаки сильного стресу та надсилатиме сповіщення батькам.
Однак машинне навчання завжди несе ризик упередженості. Якщо система подає хибний сигнал, батьки можуть бути непотрібно збентежені. І навпаки, якщо вона пропускає сигнал, діти можуть зіткнутися з ризиками, з якими сім'я не зможе вчасно втрутитися.
Міжнародні організації із захисту дітей також уважно стежили за діями OpenAI, визнаючи інструмент батьківського контролю позитивним знаком, але попереджаючи, що відсутність суворої перевірки віку та захисту за замовчуванням означає, що діти все ще можуть стикатися з ризиками, навіть за наявності батьківського нагляду.
Ці дебати показують, що розвиток штучного інтелекту — це не лише технологічна історія, а й тісно пов'язана із соціальною відповідальністю та безпекою молодого покоління.
Тхань Чт
Джерело: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
Коментар (0)