La IA se está volviendo más peligrosa

Una investigación del MIT muestra que el abuso de ChatGPT puede perjudicar las habilidades de pensamiento crítico, especialmente en jóvenes cuyos cerebros aún están en desarrollo.

Los humanos tienden a depender de la IA. Foto: MarketWatch .

Un nuevo estudio del Media Lab del Instituto Tecnológico de Massachusetts (MIT) sugiere que el uso excesivo de ChatGPT puede afectar negativamente las habilidades de pensamiento crítico, especialmente en adultos jóvenes.

El estudio se realizó con 54 participantes, de entre 18 y 39 años, en el área de Boston (EE. UU.), divididos en tres grupos que incluían el uso de ChatGPT, la búsqueda de información a través de Google y no el uso de herramientas de soporte.

A todos se les pidió que escribieran tres ensayos tipo SAT. Durante el proceso, los investigadores utilizaron electroencefalografía (EEG) para registrar la actividad cerebral en 32 regiones diferentes.

"Efectos secundarios" de la IA

Los resultados mostraron que el grupo que utilizó ChatGPT presentó el nivel más bajo de interacción neuronal. En concreto, se consideró que sus ensayos carecían de profundidad y de pensamiento independiente, y que eran en gran medida plagiados y repetitivos. Además, dos profesores de inglés que participaron en la evaluación comentaron que estos ensayos eran «apagados y extrañamente similares».

El EEG mostró que el grupo ChatGPT presentó baja actividad en bandas de ondas cerebrales importantes como alfa, theta y delta. Estas bandas están asociadas con la atención, la creatividad y el procesamiento del lenguaje. A medida que la tarea avanzaba, los participantes tendían a depender completamente de la herramienta de IA para completar la escritura sin esfuerzo personal.

Imagen que compara la actividad cerebral del grupo con IA y del grupo sin ella. Foto: Nataliya Kosmyna .

“Simplemente escribí la solicitud, modifiqué algunas oraciones y terminé con la solicitud asignada”, describió un participante.

En cambio, el grupo que no utilizó la herramienta de IA mostró resultados más positivos, mostrando una mayor implicación en el proceso de escritura y una mayor satisfacción con su trabajo. El grupo que solo utilizó la búsqueda de Google también mostró niveles estables de actividad neuronal y mayor iniciativa en la recopilación y el procesamiento de información.

En la siguiente fase, al pedirles que reescribieran un ensayo que habían escrito sin usar la herramienta de IA, el grupo que usó ChatGPT prácticamente no recordaba nada de su propio contenido. Sus lecturas de ondas cerebrales se mantuvieron bajas. Mientras tanto, los demás grupos siguieron mostrando un aumento considerable en la concentración y la conectividad neuronal.

Efectos sobre la salud

La autora principal, la Dra. Nataliya Kosmyna, afirmó que este era su primer trabajo publicado antes de realizar nuevas investigaciones. Explicó que la decisión se debía a la preocupación de que el uso de la IA en la educación pudiera implementarse con demasiada rapidez, sin una investigación adecuada y precisa.

El mal uso de la IA tendrá un impacto devastador en el desarrollo cerebral. Si no se controla, la exposición de los niños a herramientas como ChatGPT podría afectar su pensamiento en el futuro, afirmó la Dra. Nataliya Kosmyna.

El uso prolongado de IA podría reducir la eficiencia del cerebro. Foto: The Observer .

Algunos expertos en salud mental también coinciden con esta preocupación. El psiquiatra Zishan Khan advierte que la dependencia excesiva de la IA en el aprendizaje puede perjudicar la capacidad de los jóvenes para recordar y recibir información, y causar trastornos psicológicos.

Cabe destacar que, tras publicar el estudio, Kosmyna descubrió que algunas personas habían usado el propio ChatGPT para resumir el artículo, lo que provocó que la IA presentara alucinaciones y presentara información que no figuraba en el documento original. Algunos resúmenes afirmaban que el estudio había usado GPT-4o, cuando en realidad no lo mencionaban en absoluto.

El equipo de Kosmyna trabaja actualmente en un proyecto similar con programadores e ingenieros de software. Los resultados iniciales, afirma, son "aún peores", lo que plantea importantes interrogantes sobre el impacto a largo plazo de la IA en la fuerza laboral del futuro.

Fuente: https://znews.vn/ai-ngay-cang-nguy-hiem-post1562832.html