OpenAI lança recurso de monitoramento infantil no ChatGPT após muita controvérsia

Após muita controvérsia sobre a segurança da inteligência artificial com menores, a OpenAI adicionou oficialmente uma ferramenta de controle infantil no ChatGPT.

O recurso de monitoramento infantil do ChatGPT também ajuda os pais a se sentirem mais seguros ao permitir que seus filhos usem inteligência artificial.

A ferramenta de monitoramento infantil ChatGPT, que está por vir, é vista como uma medida de segurança da OpenAI após um processo judicial de grande repercussão. O recurso visa reduzir o risco de crianças interagirem com chatbots, ao mesmo tempo que levanta questões sobre a responsabilidade social das empresas de inteligência artificial.

Do chocante processo judicial

Em agosto passado, a família de Adam Raine, um jovem californiano de 16 anos, entrou com um processo contra a OpenAI, alegando que o ChatGPT fornecia instruções de automutilação e abuso verbal que deixaram seu filho se sentindo desesperado antes de cometer suicídio.

O processo judicial causou rapidamente alvoroço e abriu um debate sobre a segurança da inteligência artificial para usuários jovens.

Isso levanta questões importantes: menores de idade devem usar o ChatGPT sem supervisão, e como deve ser determinada a responsabilidade dos desenvolvedores de IA quando o produto afeta diretamente a psicologia de usuários jovens?

Em resposta a essa pressão, a OpenAI anunciou a adição de controles parentais, um primeiro passo para demonstrar seu compromisso com a proteção das crianças e sinalizar que a empresa está disposta a priorizar a segurança na próxima fase de desenvolvimento do ChatGPT.

Recursos de monitoramento no ChatGPT

De acordo com o anúncio oficial, a OpenAI lançará uma ferramenta que permitirá aos pais vincular suas contas às contas ChatGPT de seus filhos. Uma vez ativada, a ferramenta permitirá que os pais gerenciem configurações importantes, como desativar o armazenamento de conversas, controlar o histórico de uso e ajustar os níveis de interação de acordo com a idade.

O grande destaque dessa inovação é o sistema de alertas. O ChatGPT será treinado para reconhecer quando usuários jovens apresentarem sinais de crise psicológica, como estresse, depressão ou automutilação. Nesses casos, os pais receberão notificações para intervir prontamente. A OpenAI afirma que o objetivo não é monitorar toda a conversa, mas sim focar em situações de emergência para proteger a segurança das crianças.

Além disso, quando conteúdo sensível é detectado, o ChatGPT passa a operar com modelos de raciocínio profundo, projetados para fornecer respostas mais ponderadas e empáticas. Paralelamente, a empresa também está trabalhando com especialistas médicos e um conselho consultivo internacional para continuar aprimorando suas proteções no futuro.

Os desafios apresentados

Embora a OpenAI tenha enfatizado que o novo recurso foi projetado para beneficiar as famílias, a resposta internacional tem sido mista. Espera-se que a ferramenta adicione uma camada de proteção para os pais quando seus filhos interagirem com a inteligência artificial, mas também reacendeu preocupações antigas, desde limites de uso até a privacidade dos dados das crianças.

De fato, especialistas vêm levantando preocupações sobre a privacidade dos dados de crianças há anos. Esses alertas destacam que armazenar e analisar o histórico de conversas online de crianças, sem proteções rigorosas, pode aumentar o risco de exposição de informações sensíveis. O surgimento de ferramentas de monitoramento no ChatGPT trouxe o assunto de volta à tona.

Outro ponto discutido foi o limite de alerta do sistema. A OpenAI afirmou que o ChatGPT detectaria sinais de estresse severo e enviaria um alerta aos pais.

No entanto, o aprendizado de máquina sempre acarreta o risco de viés. Se o sistema emitir um alarme falso, os pais podem ficar desnecessariamente confusos. Por outro lado, se ele ignorar um sinal, as crianças podem correr riscos que a família não conseguirá controlar a tempo.

Organizações internacionais de proteção à infância também acompanharam de perto a iniciativa da OpenAI, reconhecendo a ferramenta de controle parental como um sinal positivo, mas alertando que a falta de verificação rigorosa de idade e de proteções padrão significa que as crianças ainda podem enfrentar riscos, mesmo com a supervisão dos pais.

Esses debates mostram que o desenvolvimento da inteligência artificial não é apenas uma questão tecnológica, mas também está intimamente ligado à responsabilidade social e à segurança da geração mais jovem.

OBRIGADO QUI

Fonte: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm