O risco de “degeneração mental” devido ao abuso da IA

DNVN - Estudos recentes alertaram sobre as consequências imprevisíveis quando os humanos dependem cada vez mais da Inteligência Artificial (IA), especialmente de modelos de grande linguagem (LLM) como o ChatGPT.

Foto ilustrativa.

A IA está presente em quase todos os aspectos da vida humana, desde a vida cotidiana até a produção, educação , pesquisa e criação artística. A IA ajuda as pessoas a otimizar suas atividades, aumentar a produtividade e reduzir os custos com recursos humanos. A explosão da IA ​​demonstrou o crescimento contínuo das aplicações de aprendizado de máquina e da tecnologia de big data, levando a inteligência artificial a um novo patamar de desenvolvimento.

Apesar desses grandes benefícios, a IA corre o risco de transformar o processo de criação de conhecimento em um ciclo fechado, ameaçando a criatividade e causando a "degeneração" do pensamento humano.

A conveniência instantânea de usar IA pode ter um custo intelectual de longo prazo, dizem especialistas.

Disfunção cerebral e “dívida cognitiva”

Um estudo de quatro meses realizado pelo Instituto de Tecnologia de Massachusetts (MIT) revelou os profundos efeitos do uso excessivo de IA no cérebro humano. O estudo, que acompanhou 54 participantes que redigiam redações, descobriu que depender de ferramentas de IA pode prejudicar a função cerebral e as habilidades de pensamento crítico.

Utilizando a tecnologia de eletroencefalografia (EEG), os pesquisadores registraram a atividade cerebral dos participantes. Os resultados foram impressionantes: o grupo que utilizou a ferramenta de IA apresentou padrões neurais significativamente diferentes do grupo que escrevia apenas com a mente. Este grupo apresentou até 55% menos conexões neurais do que o grupo que escrevia apenas com a mente, especialmente em regiões responsáveis ​​pelo pensamento profundo e pela formação da memória.

Pesquisadores chamam esse fenômeno de "dívida cognitiva". Semelhante à dívida financeira, que nos permite usufruir de benefícios agora, mas pagar os custos depois, a dívida cognitiva ocorre quando terceirizamos nosso esforço mental para sistemas externos, causando a atrofia dos nossos músculos mentais devido ao desuso. Se usada em excesso, a IA pode transformar os humanos em consumidores passivos, perdendo a capacidade de pensar de forma independente.

As consequências da redução do desempenho cognitivo são claras:

Comprometimento da memória : Na primeira sessão do estudo do MIT, 83% dos usuários de IA não conseguiram citar seus próprios textos e nenhum conseguiu fornecer citações precisas. Mesmo após várias sessões, muitos ainda tinham dificuldades com essa tarefa básica.

Pensamento crítico enfraquecido : O uso da IA ​​leva ao “engajamento superficial” e enfraquece as habilidades de pensamento crítico, o que pode promover a procrastinação e a “preguiça”.

Atividade cerebral reduzida : aqueles que escreveram suas redações com assistência de IA tiveram significativamente menos ativação cerebral, com regiões relacionadas à memória, pensamento crítico e função executiva significativamente reduzidas.

A crise da criação de conhecimento e o “colapso de paradigmas”

O problema dos LLMs não é sua capacidade de sintetizar, mas sim de reciclar o que já existe. Esses sistemas não geram novos conhecimentos, mas sim consomem dados existentes e os redistribuem.

Ao contrário dos humanos, que estão sempre em busca de novas direções por diversos motivos, como dinheiro, fama, curiosidade ou desejo de adquirir conhecimento, a IA não consegue produzir "coisas novas". Quando a IA conseguir responder a quase qualquer pergunta complexa em apenas alguns segundos, a recompensa pela criatividade humana desaparecerá gradualmente.

Essa perda de motivação foi demonstrada pelo caso do Stack Overflow, o fórum onde programadores compartilham conhecimento: em apenas 6 meses após o surgimento do ChatGPT, o número de perguntas na plataforma diminuiu em mais de 25%, e agora caiu para 90%. Isso representa a perda de uma "base de conhecimento viva", onde cada resposta é verificada, debatida e complementada.

Dados de plataformas como o Stack Overflow são usados ​​há muito tempo para treinar ferramentas de IA. À medida que essa fonte de conhecimento se esgota, a IA repetirá cada vez mais o que já produziu.

Esse fenômeno é chamado de "colapso do modelo". Pesquisadores alertam que, quando os modelos são treinados principalmente com dados gerados pela própria IA, a qualidade do conhecimento se deteriora gradualmente, perdendo a capacidade de refletir a diversidade e a precisão do mundo real. "O resultado geral é que eles pioram. Os modelos pioram", conclui a professora Hannah Li, da Universidade de Columbia.

O risco da homogeneização e reciclagem do conhecimento

Além do declínio da cognição individual, o uso indevido da IA ​​também leva à homogeneização do conhecimento. Ensaios escritos com a ajuda da IA ​​são notavelmente semelhantes, sugerindo padrões "estatisticamente homogêneos". Isso cria uma monocultura intelectual em que diversas perspectivas humanas são filtradas pela mesma lente algorítmica, potencialmente sufocando a diversidade criativa.

A IA tende a enfatizar padrões comuns em dados e gradualmente ignorar informações raras, detalhes únicos ou dados que se encontram nas sombras estatísticas. Se essa tendência continuar, a internet, que é um rico repositório de informações, corre o risco de se tornar um mundo turvo, onde o conhecimento se dilui. A humanidade pode entrar em um período de "reciclagem do conhecimento", em que a inovação estagna à medida que as recompensas pela nova criação se tornam cada vez mais tênues.

A IA é uma ferramenta poderosa, mas requer uma abordagem estratégica. Pesquisadores do MIT encontraram um sinal positivo: participantes que haviam desenvolvido uma base cognitiva sólida antes de usar a IA conseguiram utilizá-la com mais eficácia e até apresentaram aumento da atividade neural quando apresentados à ferramenta. Eles usaram a IA como um verdadeiro assistente, não como uma ferramenta de suporte.

O conhecimento humano se constrói com esforço, curiosidade e coragem para se aventurar no desconhecido. No entanto, se a IA se tornar a única "ferrovia", corremos o risco de sermos levados a um ciclo vicioso em que tanto humanos quanto máquinas serão obrigados a repetir o que já foi feito.

Hien Thao

Fonte: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291