Функция мониторинга детей в ChatGPT также помогает родителям чувствовать себя более уверенно, разрешая своим детям использовать искусственный интеллект.
Предстоящий инструмент мониторинга детей ChatGPT рассматривается как шаг в сторону повышения безопасности, предлагаемый OpenAI после нашумевшего судебного иска. Эта функция призвана снизить риск общения детей с чат-ботами, а также поднять вопросы о социальной ответственности компаний, занимающихся разработкой технологий искусственного интеллекта.
Из шокирующего судебного иска
В августе прошлого года семья Адама Рейна, 16-летнего калифорнийского подростка, подала иск против OpenAI, утверждая, что ChatGPT предоставлял инструкции по самоповреждению и словесные оскорбления, из-за которых их сын чувствовал себя безнадежно, а затем покончил жизнь самоубийством.
Иск быстро наделал шума и вызвал дискуссию о безопасности искусственного интеллекта для молодых пользователей.
Это поднимает важные вопросы: могут ли несовершеннолетние использовать ChatGPT без присмотра, и как должна определяться ответственность разработчиков ИИ, если продукт напрямую влияет на психологию юных пользователей?
В ответ на это давление компания OpenAI объявила о добавлении родительского контроля, что стало первым шагом на пути к демонстрации ее приверженности защите детей и сигналом о том, что компания готова поставить безопасность на первое место на следующем этапе разработки ChatGPT.
Функции мониторинга на ChatGPT
Согласно официальному объявлению, OpenAI выпустит инструмент, который позволит родителям связывать свои учётные записи с учётными записями детей в ChatGPT. После активации родители смогут управлять важными настройками, такими как отключение сохранения чатов, управление историей использования и настройка уровня взаимодействия, соответствующего возрасту.
Главной особенностью этого нововведения является система оповещения. ChatGPT будет обучен распознавать признаки психологического кризиса у юных пользователей, такие как стресс, депрессия или самоповреждение. В таких случаях родители будут получать уведомления, чтобы оперативно вмешаться. OpenAI утверждает, что цель заключается не в том, чтобы отслеживать весь разговор, а в том, чтобы сосредоточиться на чрезвычайных ситуациях для обеспечения безопасности детей.
Кроме того, при обнаружении конфиденциального контента ChatGPT переключится на использование моделей глубокого анализа, которые разработаны для предоставления более продуманных и поддерживающих ответов. Параллельно с этим компания сотрудничает с медицинскими экспертами и международным консультативным советом, чтобы продолжить совершенствование своих мер защиты в будущем.
Поставленные проблемы
Хотя OpenAI подчёркивает, что новая функция разработана для семей, международная реакция оказалась неоднозначной. Ожидается, что инструмент обеспечит дополнительную защиту родителей при взаимодействии их детей с искусственным интеллектом, но он также вызывает давние опасения, связанные с ограничениями использования и конфиденциальностью данных детей.
На самом деле, эксперты уже много лет выражают обеспокоенность по поводу конфиденциальности данных детей. Эти предупреждения подчёркивают, что хранение и анализ истории детских чатов без строгих мер защиты может повысить риск раскрытия конфиденциальной информации. Появление инструментов мониторинга на ChatGPT вновь привлекло внимание к этой проблеме.
Другим обсуждаемым вопросом был порог предупреждения системы. OpenAI заявила, что ChatGPT будет выявлять признаки сильного стресса и отправлять родителям оповещения.
Однако машинное обучение всегда несёт в себе риск предвзятости. Если система подаёт ложный сигнал, родители могут быть ненужно запутаны. И наоборот, если система пропустит сигнал, дети рискуют, что семья не успеет вовремя вмешаться.
Международные организации по защите детей также внимательно следят за действиями OpenAI, признавая инструмент родительского контроля позитивным знаком, но предупреждая, что отсутствие строгой проверки возраста и стандартных мер защиты означает, что дети по-прежнему могут подвергаться рискам, даже находясь под родительским надзором.
Эти дебаты показывают, что развитие искусственного интеллекта — это не только технологическая история, но и тесно связанная с социальной ответственностью и безопасностью подрастающего поколения.
ТХАНЬ ТХУ
Источник: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
Комментарий (0)