O risco de 'degeneração do pensamento' devido ao uso indevido da IA.

DNVN - Estudos recentes têm alertado para as consequências imprevisíveis da crescente dependência da humanidade em relação à Inteligência Artificial (IA), especialmente modelos de linguagem de grande escala (LLMs) como o ChatGPT.

Imagem ilustrativa.

A inteligência artificial está presente em quase todos os aspectos da vida humana, desde atividades diárias até produção, educação , pesquisa e criação artística. A IA ajuda as pessoas a otimizar operações, aumentar a eficiência e reduzir a necessidade de mão de obra. A explosão da IA ​​demonstra o crescimento contínuo das aplicações de aprendizado de máquina e tecnologia de big data, impulsionando a inteligência artificial para um novo patamar de desenvolvimento.

Apesar desses enormes benefícios, a IA corre o risco de transformar o próprio processo de criação de conhecimento em um ciclo fechado, ameaçando a inovação e causando uma "degeneração" do pensamento humano.

Segundo especialistas, a conveniência imediata do uso da IA ​​pode ter como consequência a perda de recursos intelectuais a longo prazo.

Declínio da função cerebral e “dívida cognitiva”

Um estudo de quatro meses realizado pelo Instituto de Tecnologia de Massachusetts (MIT) revelou os profundos efeitos do uso excessivo de inteligência artificial (IA) no cérebro humano. O estudo, que acompanhou 54 participantes que escreveram redações, descobriu que a dependência de ferramentas de IA pode prejudicar o funcionamento cerebral e as habilidades de pensamento crítico.

Utilizando a tecnologia de eletroencefalografia (EEG), os pesquisadores registraram a atividade cerebral dos participantes. Os resultados foram surpreendentes: o grupo que utilizou a ferramenta de IA apresentou padrões neurais significativamente diferentes em comparação com o grupo que apenas escreveu mentalmente. Esse grupo apresentou até 55% menos conexões neurais do que o grupo que utilizou apenas o cérebro, particularmente em áreas responsáveis ​​pelo pensamento profundo e pela formação da memória.

Os pesquisadores chamam esse fenômeno de "dívida cognitiva". Semelhante à dívida financeira, que nos permite desfrutar de benefícios presentes, mas incorrer em custos posteriormente, a dívida cognitiva ocorre quando delegamos esforço intelectual a sistemas externos, fazendo com que nossas habilidades mentais se atrofiem por falta de uso. Se mal utilizada, a IA poderia transformar os humanos em consumidores passivos, perdendo a capacidade de pensar de forma independente.

As consequências da redução da função cognitiva são claras:

Problemas de memória : Na primeira sessão do estudo do MIT, 83% dos usuários de IA não conseguiram citar seus próprios textos, e nenhum forneceu uma citação precisa. Mesmo após várias sessões, muitos ainda apresentavam dificuldades com essa tarefa básica.

Enfraquecimento do pensamento crítico : O uso da IA ​​leva a um "envolvimento superficial" e enfraquece as habilidades de pensamento crítico, podendo fomentar a procrastinação e a preguiça.

Redução da atividade cerebral : Indivíduos que escreveram redações com auxílio de IA apresentaram uma atividade cerebral significativamente menor, com áreas relacionadas à memória, ao pensamento crítico e à função executiva mostrando um declínio acentuado.

A crise da criação de conhecimento e o "colapso do modelo"

O problema com os LLMs não reside em suas capacidades de síntese, mas no fato de que eles só sabem reciclar o que já existe. Esses sistemas não geram conhecimento novo; eles utilizam principalmente dados existentes e os redistribuem.

Ao contrário dos humanos, que estão sempre em busca de novas direções por diversas motivações, como dinheiro, fama, curiosidade ou desejo de adquirir conhecimento, a IA não consegue gerar "novidade". Quando a IA puder responder a quase qualquer pergunta complexa em apenas alguns segundos, as recompensas para a criatividade humana desaparecerão gradualmente.

Essa perda de impulso foi demonstrada pelo caso do Stack Overflow, um fórum onde programadores compartilham conhecimento: em apenas 6 meses após o surgimento do ChatGPT, o número de perguntas na plataforma diminuiu em mais de 25% e agora caiu 90%. Isso representa a perda de uma "base de conhecimento viva", onde cada resposta era verificada, debatida e complementada.

Os dados de plataformas como o Stack Overflow costumavam ser a fonte de treinamento para ferramentas de IA. À medida que essa fonte de conhecimento se esgota, a IA repetirá cada vez mais o que já produziu.

Esse fenômeno é conhecido como "colapso do modelo". Pesquisadores alertam que, quando os modelos são treinados principalmente com dados gerados pela própria IA, a qualidade do conhecimento se deteriora gradualmente, perdendo a capacidade de refletir a diversidade e a precisão do mundo real. A professora Hannah Li, da Universidade Columbia, conclui: "O resultado geral é que eles vão piorar. Os modelos vão piorar."

Os riscos da homogeneização e reciclagem do conhecimento.

Além do declínio da consciência individual, o uso indevido da IA ​​também leva à homogeneização do conhecimento. Ensaios escritos com o auxílio da IA ​​apresentam semelhanças impressionantes, revelando padrões "estatisticamente homogêneos". Isso cria uma espécie de monocultura intelectual, onde diversas perspectivas humanas são filtradas pela mesma lente algorítmica, potencialmente sufocando a diversidade criativa.

A inteligência artificial tende a enfatizar padrões comuns nos dados, negligenciando gradualmente informações raras, detalhes únicos ou dados ocultos nas sombras das estatísticas. Se essa tendência continuar, a internet, um rico repositório de informações, corre o risco de se tornar um mundo diluído onde o conhecimento se perde. A humanidade pode entrar em uma era de "reciclagem de conhecimento", onde a inovação estagna à medida que as recompensas por novas criações se tornam cada vez mais obscuras.

A IA é uma ferramenta poderosa, mas requer uma abordagem estratégica. Pesquisadores do MIT descobriram um sinal encorajador: participantes que já possuíam uma base cognitiva sólida antes de usar a IA conseguiram aproveitá-la com mais eficácia, apresentando inclusive um aumento na atividade neural após a sua introdução. Eles utilizaram a IA como uma verdadeira assistente, e não apenas como uma ferramenta de apoio.

O conhecimento humano é construído através do esforço, da curiosidade e da coragem de aventurar-se no desconhecido. No entanto, se transformarmos a IA na única "ferrovia", corremos o risco de entrar num ciclo vicioso onde tanto humanos quanto máquinas apenas repetem o que já foi feito.

Hien Thao

Fonte: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291