¿Por qué la IA no puede superar la inteligencia humana?

Para los principales directores ejecutivos tecnológicos actuales, como Dario Amodei de Anthropic, Demis Hassabis de Google y Sam Altman de OpenAI, no basta con declarar que su IA es la mejor. Los tres han declarado recientemente que la IA será buena y transformará radicalmente la sociedad.

Sin embargo, un grupo cada vez mayor de investigadores, entre quienes construyen, estudian y utilizan la IA moderna, se muestran escépticos ante tales afirmaciones.

El razonamiento de la IA no es omnipotente

Apenas tres años después de su lanzamiento, la inteligencia artificial ha comenzado a aparecer en muchas actividades cotidianas, como estudiar y trabajar. Muchos temen que pronto pueda reemplazar a los humanos.

Sin embargo, los nuevos modelos de IA actuales no son tan inteligentes como creemos. Un descubrimiento de Apple, una de las empresas tecnológicas más grandes del mundo , lo demuestra.

En concreto, en un estudio recientemente publicado llamado “Illusionary Thinking”, el equipo de investigación de Apple afirma que los modelos de inferencia como Claude, DeepSeek-R1 y o3-mini no están realmente “impulsados por el cerebro”, como sugieren sus nombres.

El documento de Apple se basa en trabajos anteriores de muchos de los mismos ingenieros, así como en investigaciones destacadas tanto del ámbito académico como de otras importantes empresas tecnológicas, incluida Salesforce.

Estos experimentos muestran que las IA racionales (que han sido aclamadas como el siguiente paso hacia los agentes de IA autónomos y, eventualmente, hacia la superinteligencia) son, en algunos casos, peores a la hora de resolver problemas que los chatbots de IA básicos que las precedieron.

La nueva investigación de Apple sobre grandes modelos de inferencia demuestra que los modelos de IA no son tan inteligentes como parecen. Foto: OpenAI.

También en el estudio, ya sea utilizando chatbots de IA o modelos de inferencia, todos los sistemas fallaron completamente en tareas más complejas.

Los investigadores sugieren sustituir la palabra «inferencia» por «imitación». El equipo argumenta que estos modelos son simplemente eficientes para memorizar y repetir patrones. Pero cuando se modifican las preguntas o aumenta la complejidad, prácticamente colapsan.

En pocas palabras, los chatbots funcionan bien cuando pueden reconocer y relacionar patrones, pero una vez que el problema se vuelve demasiado complejo, no pueden resolverlo. «Los modelos de razonamiento a gran escala (LRM) de última generación sufren un colapso total de su precisión cuando la complejidad supera cierto umbral», señala el estudio.

Esto contradice la expectativa del desarrollador de que la complejidad mejorará con más recursos. «El esfuerzo de inferencia de la IA aumenta con la complejidad, pero solo hasta cierto punto, y luego disminuye, incluso si todavía hay suficiente presupuesto de tokens (potencia computacional) para gestionarla», añadió el estudio.

El verdadero futuro de la IA

Gary Marcus, psicólogo y autor estadounidense, afirmó que los hallazgos de Apple eran impresionantes, pero no eran realmente nuevos y simplemente reforzaban investigaciones previas. El profesor emérito de psicología y neurociencia de la Universidad de Nueva York citó su estudio de 1998 como ejemplo.

En él, sostiene que las redes neuronales, precursoras de los grandes modelos lingüísticos, pueden generalizarse bien dentro de la distribución de los datos con los que fueron entrenadas, pero a menudo colapsan cuando se enfrentan a datos fuera de la distribución.

Sin embargo, el Sr. Marcus también cree que tanto el modelo LLM como el LRM tienen sus propias aplicaciones y son útiles en algunos casos.

En el mundo de la tecnología, la superinteligencia es vista como la siguiente etapa del desarrollo de la IA, donde los sistemas no solo logran la capacidad de pensar como los humanos (AGI) sino que también se destacan en velocidad, precisión y nivel de conciencia.

A pesar de las importantes limitaciones, incluso los críticos de la IA se apresuran a añadir que el viaje hacia la superinteligencia informática todavía es totalmente posible.

Más que una simple alternativa a Google o una ayuda para las tareas escolares, Sam Altman, CEO de OpenAI, afirmó una vez que la IA cambiará el progreso de la humanidad. Foto: AA Photo.

Jorge Ortiz, profesor asociado de ingeniería en el laboratorio de Rutgers, dijo que exponer las limitaciones actuales podría señalar el camino para que las empresas de IA las superen.

Ortiz citó ejemplos de nuevos métodos de entrenamiento, como brindar retroalimentación incremental sobre el desempeño de un modelo y agregar más recursos cuando se enfrentan a problemas difíciles, que pueden ayudar a la IA a abordar problemas más grandes y hacer un mejor uso del software subyacente.

Mientras tanto, Josh Wolfe, cofundador de la firma de capital de riesgo Lux Capital, desde una perspectiva empresarial, independientemente de que los sistemas actuales puedan razonar o no, seguirán creando valor para los usuarios.

Ethan Mollick, profesor de la Universidad de Pensilvania, también expresó su creencia de que los modelos de IA pronto superarán estas limitaciones en un futuro cercano.

“Los modelos son cada vez mejores y se desarrollan constantemente nuevos enfoques para la IA, por lo que no me sorprendería que estas limitaciones se superen en un futuro próximo”, afirmó Mollick.

Fuente: https://znews.vn/vi-sao-ai-chua-the-vuot-qua-tri-tue-con-nguoi-post1561163.html