El riesgo de “degeneración mental” debido al abuso de la IA

DNVN - Estudios recientes han hecho sonar la alarma sobre las consecuencias impredecibles que tendrá el hecho de que los humanos dependan cada vez más de la Inteligencia Artificial (IA), especialmente de los modelos de lenguaje grandes (LLM) como ChatGPT.

Foto ilustrativa.

La IA está presente en casi todos los aspectos de la vida humana, desde la vida cotidiana hasta la producción, la educación , la investigación y la creación artística. La IA ayuda a las personas a optimizar sus actividades, aumentar la productividad y reducir los recursos humanos. El auge de la IA ha demostrado el continuo crecimiento de las aplicaciones de aprendizaje automático y la tecnología de big data, impulsando la inteligencia artificial a un nuevo nivel de desarrollo.

A pesar de estos grandes beneficios, la IA corre el riesgo de convertir el proceso de creación de conocimiento en un circuito cerrado, amenazando la creatividad y provocando la “degeneración” del pensamiento humano.

Los expertos afirman que la conveniencia instantánea de utilizar IA puede tener un costo intelectual a largo plazo.

Disfunción cerebral y “deuda cognitiva”

Un estudio de cuatro meses realizado por el Instituto Tecnológico de Massachusetts (MIT) ha arrojado luz sobre los profundos efectos del uso excesivo de la IA en el cerebro humano. El estudio, que monitoreó a 54 participantes que redactaban ensayos, descubrió que depender de herramientas de IA puede perjudicar la función cerebral y el pensamiento crítico.

Mediante electroencefalografía (EEG), los investigadores registraron la actividad cerebral de los participantes. Los resultados fueron sorprendentes: el grupo que utilizó la herramienta de IA mostró patrones neuronales significativamente diferentes a los del grupo que escribió solo con la mente. Este grupo mostró hasta un 55 % menos de conexiones neuronales que el grupo que escribió solo con la mente, especialmente en las regiones responsables del pensamiento profundo y la formación de la memoria.

Los investigadores denominan a este fenómeno «deuda cognitiva». Similar a la deuda financiera, que nos permite disfrutar de beneficios ahora pero pagar costos más adelante, la deuda cognitiva se produce cuando externalizamos nuestro esfuerzo mental a sistemas externos, lo que provoca la atrofia de nuestros músculos mentales por falta de uso. Si se usa en exceso, la IA podría convertir a los humanos en consumidores pasivos, perdiendo la capacidad de pensar de forma independiente.

Las consecuencias de un rendimiento cognitivo reducido son claras:

Deterioro de la memoria : En la primera sesión del estudio del MIT, el 83 % de los usuarios de IA no pudieron citar textos propios, y ninguno logró proporcionar citas precisas. Incluso después de varias sesiones, muchos seguían teniendo dificultades con esta tarea básica.

Pensamiento crítico debilitado : el uso de IA conduce a un “compromiso superficial” y debilita las habilidades de pensamiento crítico, lo que puede fomentar la procrastinación y la “pereza”.

Actividad cerebral reducida : aquellos que escribieron sus ensayos con asistencia de IA tuvieron una activación cerebral significativamente menor, con regiones relacionadas con la memoria, el pensamiento crítico y la función ejecutiva significativamente reducidas.

La crisis de la creación de conocimiento y el “colapso del paradigma”

El problema de los LLM no es su capacidad de sintetizar, sino su capacidad de reciclar lo ya existente. Estos sistemas no generan nuevo conocimiento, sino que consumen los datos existentes y los redistribuyen.

A diferencia de los humanos, que siempre buscan nuevos caminos por diversas razones, como el dinero, la fama, la curiosidad o el deseo de adquirir conocimiento, la IA no puede producir "cosas nuevas". Cuando la IA pueda responder a casi cualquier pregunta compleja en tan solo unos segundos, la recompensa por la creatividad humana desaparecerá gradualmente.

Esta pérdida de motivación quedó demostrada en el caso de Stack Overflow, el foro donde los programadores comparten conocimientos: en tan solo 6 meses tras la aparición de ChatGPT, el número de preguntas en la plataforma disminuyó en más de un 25 %, y ahora se ha reducido al 90 %. Esto supone la pérdida de una base de conocimiento viva, donde cada respuesta se verifica, debate y complementa.

Los datos de plataformas como Stack Overflow se han utilizado durante mucho tiempo para entrenar herramientas de IA. A medida que esta fuente de conocimiento se agota, la IA repetirá cada vez más lo que ya ha producido.

Este fenómeno se denomina "colapso del modelo". Los investigadores advierten que cuando los modelos se entrenan principalmente con datos generados por la propia IA, la calidad del conocimiento se deteriora gradualmente, perdiendo la capacidad de reflejar la diversidad y precisión del mundo real. "El resultado general es que empeoran. Los modelos empeoran", concluye la profesora Hannah Li, de la Universidad de Columbia.

El riesgo de homogeneización y reciclaje del conocimiento

Además del deterioro de la cognición individual, el mal uso de la IA también conduce a la homogeneización del conocimiento. Los ensayos escritos con ayuda de la IA son sorprendentemente similares, lo que sugiere patrones estadísticamente homogéneos. Esto crea una monocultura intelectual donde diversas perspectivas humanas se filtran a través de la misma lente algorítmica, lo que podría sofocar la diversidad creativa.

La IA tiende a enfatizar patrones comunes en los datos y gradualmente ignora información poco común, detalles únicos o datos que se encuentran en la sombra de las estadísticas. Si esta tendencia continúa, internet, un rico repositorio de información, corre el riesgo de convertirse en un mundo difuso donde el conocimiento se diluye. La humanidad podría entrar en un período de "reciclaje del conocimiento", donde la innovación se estanca a medida que las recompensas por la nueva creación se vuelven cada vez más escasas.

La IA es una herramienta poderosa, pero requiere un enfoque estratégico. Investigadores del MIT encontraron una señal positiva: los participantes que habían desarrollado una sólida base cognitiva antes de usar la IA pudieron usarla con mayor eficacia e incluso mostraron una mayor actividad neuronal al familiarizarse con la herramienta. Utilizaron la IA como un verdadero asistente, no como una herramienta de apoyo.

El conocimiento humano se basa en el esfuerzo, la curiosidad y la valentía de aventurarse en lo desconocido. Sin embargo, si la IA se convierte en la única vía, corremos el riesgo de caer en un círculo vicioso donde tanto humanos como máquinas se verán obligados a repetir lo ya hecho.

Hien Thao

Fuente: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291