De conversas com chatbots a incidentes controversos no Japão.

  Segundo os investigadores, o incidente ocorreu na casa de Shinnosuke Abe, no bairro de Shibuya, em Tóquio. Enquanto suas duas filhas discutiam, o ex-astro do beisebol teria intervido para impedir que a discussão continuasse.

No entanto, a situação rapidamente se agravou quando a filha mais velha reagiu. Num acesso de raiva, Abe teria agarrado-a pela gola e atirado-a ao chão. Embora a menina não tenha ficado ferida, o incidente levou à intervenção da polícia e à sua prisão em casa.

O que chamou particularmente a atenção do público não foi a altercação em si, mas a forma como o incidente foi descoberto.

A filha de 18 anos de Shinnosuke Abe, treinador principal do Yomiuri Giants, disse que buscou aconselhamento do chatbot de IA ChatGPT antes de denunciar o incidente a uma agência de aconselhamento infantil.

Segundo a carta que foi divulgada posteriormente, a filha de Abe, de 18 anos, não procurou ajuda imediata de parentes, amigos ou autoridades. Em vez disso, optou por conversar com o ChatGPT para obter informações sobre a situação que enfrentava.

Segundo o relato da menina, o chatbot de IA sugeriu que ela buscasse apoio em centros de aconselhamento infantil anonimamente. Ela então ligou para um centro de aconselhamento infantil para pedir orientação.

Ao receberem a informação, os especialistas do centro avaliaram o caso como urgente e contataram imediatamente a polícia. As autoridades chegaram rapidamente ao local e efetuaram a prisão do famoso treinador.

Embora a decisão final caiba aos usuários e às autoridades, este incidente demonstra que a IA hoje não é mais apenas uma ferramenta para recuperação de informações ou auxílio no trabalho. Com sua capacidade de dialogar de forma natural, fornecer respostas quase instantâneas e operar continuamente 24 horas por dia, os chatbots estão se tornando gradualmente a principal opção para muitas pessoas quando precisam compartilhar ou buscar conselhos sobre assuntos pessoais, em vez de recorrer a amigos, familiares ou autoridades.

Quando a IA se torna uma "mentora" para os jovens.

Segundo uma pesquisa do Comitê de Assuntos do Consumidor do Gabinete do Governo do Japão, um número crescente de adolescentes está usando conteúdo gerado por inteligência artificial para buscar conselhos sobre questões da vida.

Isao Echizen, especialista em segurança da informação do Instituto Nacional de Informática do Japão, argumenta que as respostas de modelos de IA conversacional como o ChatGPT podem variar significativamente dependendo de como os usuários fazem as perguntas e da quantidade de informações fornecidas.

Segundo ele, no caso da filha de Shinnosuke Abe, o sistema de IA ofereceu uma sugestão bastante direta para que ela contatasse um centro de aconselhamento infantil. No entanto, a IA só consegue processar informações fornecidas pelo usuário e não possui a capacidade de compreender totalmente o contexto, como fazem os familiares ou aqueles que presenciaram o ocorrido.

O Sr. Echizen argumentou que discutir o assunto com familiares ou pessoas familiarizadas com as circunstâncias específicas teria sido uma opção mais natural e apropriada.

Este especialista também reconheceu que a geração por IA é uma ferramenta conveniente e que a dependência dos jovens nela é uma tendência compreensível. No entanto, ele desaconselhou o uso ativo dessa tecnologia por alunos do ensino fundamental e médio devido ao risco de dependência excessiva de respostas geradas por máquinas.

Um dos maiores riscos, segundo ele, é que os usuários tendem a depositar confiança absoluta no que a IA oferece. Com a geração de IA se tornando cada vez mais difundida, desde o auxílio na aprendizagem e na redação de ensaios até o aconselhamento em questões pessoais, desenvolver a capacidade de pensar de forma independente e avaliar informações é mais importante do que nunca.

Uma pesquisa realizada pelo Gabinete do Governo do Japão revelou que mais da metade das adolescentes de 10 a 19 anos entrevistadas afirmaram ter usado conteúdo gerado por inteligência artificial para buscar conselhos sobre problemas que enfrentavam.

Segundo o Sr. Echizen, muitas crianças recorrem à IA porque têm dificuldade em compartilhar seus sentimentos com os pais ou parentes. Por outro lado, os sistemas de IA são projetados para criar um senso de empatia e compreensão, facilitando a construção de confiança entre os usuários.

Ele enfatizou que proteger as crianças dos perigos da dependência da IA ​​não se resume apenas a controlar a tecnologia, mas também a começar por treinar a sua capacidade de distinguir o certo do errado, o pensamento crítico e incentivar a interação direta com humanos desde tenra idade. "Aqueles que as rodeiam precisam ajudar as crianças a entender que a IA nem sempre está certa", disse ele.

O caso Shinnosuke Abe é, portanto, mais do que apenas uma história de um conflito familiar que levou a consequências legais não intencionais. De forma mais ampla, reflete uma realidade crescente na sociedade moderna: a inteligência artificial está se tornando cada vez mais presente no cotidiano, integrando-se à maneira como as pessoas buscam informações, conselhos e tomam decisões importantes em suas vidas.

No Japão, os centros de aconselhamento e orientação infantil, estabelecidos pela Lei de Bem-Estar Infantil, têm a função de receber denúncias relativas a crianças menores de 18 anos, incluindo casos suspeitos de abuso.

Em abril deste ano, o Japão contava com 243 centros desse tipo em todo o país, com equipes compostas por profissionais como assistentes sociais, psicólogos, médicos e agentes comunitários de saúde .

Uma das ferramentas mais importantes do sistema é a linha direta 189, em operação desde 2015. O nome "Ichi-Haya-Ku" significa "rapidamente" ou "imediatamente", incentivando as pessoas a relatarem casos de crianças em situação de risco o mais rápido possível. Ao receber uma ligação, a linha direta identifica a localização da pessoa que ligou e a conecta ao centro de aconselhamento infantil mais próximo para avaliar a gravidade da situação e determinar as medidas de intervenção apropriadas.


    Fonte: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/khi-chatbot-buoc-vao-doi-thuc-1042130