OpenAI lança recurso de monitoramento infantil no ChatGPT após muita controvérsia

Após muita controvérsia sobre a segurança da inteligência artificial com menores, a OpenAI adicionou oficialmente uma ferramenta de controle infantil ao ChatGPT.

O recurso de monitoramento infantil no ChatGPT também ajuda os pais a se sentirem mais seguros ao deixar seus filhos usarem inteligência artificial.

A futura ferramenta de monitoramento infantil ChatGPT é vista como uma mudança de segurança em relação à OpenAI após um processo judicial de grande repercussão. O recurso visa reduzir os riscos de crianças conversarem com chatbots, ao mesmo tempo em que levanta questões sobre a responsabilidade social das empresas de inteligência artificial.

Do processo chocante

Em agosto passado, a família de Adam Raine, um garoto de 16 anos da Califórnia, entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu instruções de automutilação e abuso verbal que deixaram seu filho sem esperança antes de cometer suicídio.

O processo rapidamente causou comoção e abriu um debate sobre a segurança da inteligência artificial para usuários jovens.

Este incidente levanta questões importantes: menores devem usar o ChatGPT sem supervisão e como a responsabilidade dos desenvolvedores de inteligência artificial deve ser determinada quando o produto afeta diretamente a psicologia dos jovens usuários?

Em resposta a essa pressão, a OpenAI anunciou a adição de controles parentais, um primeiro passo para demonstrar seu comprometimento em proteger crianças e sinalizar que a empresa está pronta para colocar a segurança em primeiro lugar na próxima fase de desenvolvimento do ChatGPT.

Recursos de monitoramento no ChatGPT

De acordo com o anúncio oficial, a OpenAI lançará uma ferramenta que permitirá aos pais vincular suas contas às contas ChatGPT de seus filhos. Após a ativação, os pais poderão gerenciar configurações importantes, como desativar o armazenamento de bate-papo, controlar o histórico de uso e ajustar os níveis de interação adequados à idade.

O destaque dessa inovação é o sistema de alerta. O ChatGPT será treinado para reconhecer quando usuários jovens demonstram sinais de sofrimento psicológico, como estresse, depressão ou automutilação. Nesses casos, os pais receberão uma notificação para intervir imediatamente. A OpenAI afirma que o objetivo não é monitorar toda a conversa, mas sim focar em situações urgentes para proteger a segurança das crianças.

Além disso, quando conteúdo sensível for detectado, o ChatGPT adotará modelos de raciocínio profundo, projetados para fornecer respostas mais ponderadas e de suporte. Paralelamente, a empresa está trabalhando com especialistas médicos e um conselho consultivo internacional para continuar aprimorando suas proteções no futuro.

Os desafios colocados

Embora a OpenAI tenha enfatizado que o novo recurso foi projetado para beneficiar as famílias, a resposta internacional tem sido mista. Espera-se que a ferramenta ofereça uma camada extra de proteção para os pais enquanto seus filhos interagem com a inteligência artificial, mas também levantou preocupações de longa data, desde limites de uso até privacidade de dados de crianças.

De fato, preocupações com a privacidade dos dados de crianças vêm sendo levantadas por especialistas há anos. Esses alertas destacam que armazenar e analisar históricos de bate-papo de crianças, sem proteções rigorosas, pode aumentar o risco de exposição de informações sensíveis. O surgimento da ferramenta de monitoramento do ChatGPT trouxe a questão de volta aos holofotes.

Outro ponto discutido foi o limite de alerta do sistema. A OpenAI afirmou que o ChatGPT detectaria sinais de estresse severo e enviaria um alerta aos pais.

No entanto, o aprendizado de máquina sempre traz consigo o risco de erro. Se o sistema emitir um alarme falso, os pais podem ficar desnecessariamente confusos. Por outro lado, se o sistema não detectar um sinal, as crianças podem correr o risco de as famílias não conseguirem intervir a tempo.

Organizações internacionais de proteção à criança também têm acompanhado de perto a iniciativa da OpenAI, reconhecendo a ferramenta de controle parental como um sinal positivo, mas alertando que a falta de verificação rigorosa da idade e de proteções padrão significa que as crianças ainda podem estar em risco, mesmo com a supervisão dos pais.

Esses debates mostram que o desenvolvimento da inteligência artificial não é apenas uma questão de tecnologia, mas também está intimamente ligado à responsabilidade social e à segurança da geração mais jovem.

OBRIGADO QUI

Fonte: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm