La capacidad de razonamiento de la IA se deteriora cuando se enfrenta a problemas complejos.

VHO - Un nuevo estudio de Apple muestra que los modelos avanzados de IA pueden "colapsar por completo" cuando se enfrentan a problemas complejos, lo que plantea serias dudas sobre la capacidad de alcanzar la inteligencia artificial general, la etapa en la que las máquinas piensan como los humanos.

Una nueva investigación de Apple indica que el razonamiento de la IA se vuelve menos eficaz cuando se enfrenta a problemas complejos.

¿Cuanto más robusto el modelo, más débil el "pensamiento"?

En un informe publicado recientemente, investigadores de Apple evaluaron el rendimiento de los Modelos de Razonamiento a Gran Escala (LRM, por sus siglas en inglés) al abordar problemas lógicos de dificultad creciente, como la Torre de Hanoi o el problema del cruce del río .

Los resultados fueron impactantes: al enfrentarse a problemas de gran complejidad, la precisión de los modelos avanzados de IA no solo se deterioró, sino que "colapsó por completo".

Lo que resulta aún más preocupante es que, antes de que el rendimiento se desplomara, los modelos comenzaron a... reducir su esfuerzo de razonamiento, un comportamiento contrario a la intuición, ya que se debería necesitar más reflexión al abordar un problema difícil.

En muchos casos, incluso con el algoritmo correcto, los modelos siguen sin ofrecer una solución. Esto revela profundas limitaciones en su capacidad para adaptarse y aplicar reglas en nuevos entornos.

El desafío de la "teoría general"

En respuesta a esta investigación, el académico estadounidense Gary Marcus, una de las voces escépticas sobre las verdaderas capacidades de la IA, calificó los hallazgos de Apple de "bastante devastadores".

En su boletín personal de Substack, afirmó: "Cualquiera que piense que los grandes modelos de lenguaje (LLM, por sus siglas en inglés) son un camino directo hacia la IA general se está engañando a sí mismo".

Andrew Rogoyski, experto del Instituto de IA Centrada en el Ser Humano (Universidad de Surrey, Reino Unido), coincide con esta opinión y cree que este hallazgo apunta a la posibilidad de que la industria tecnológica se dirija hacia un "callejón sin salida": "Cuando los modelos solo funcionan bien con problemas simples y de dificultad media, pero fallan por completo ante problemas de mayor dificultad, es evidente que existe un problema con el enfoque actual".

Un punto en particular que destaca Apple es la falta de capacidad de "razonamiento general", es decir, la capacidad de extender la comprensión de una situación específica a situaciones similares.

Cuando el conocimiento no se puede transferir de la forma en que lo hacen normalmente los humanos, los modelos actuales caen fácilmente en un estado de "aprendizaje memorístico": fuertes en patrones repetitivos, pero débiles en pensamiento lógico o deducción.

Además, las investigaciones han demostrado que los modelos de razonamiento a gran escala consumen recursos computacionales al realizar repetidamente los pasos correctos para problemas sencillos, pero al elegir el enfoque incorrecto desde el principio para problemas ligeramente más complejos.

El informe puso a prueba una serie de modelos líderes, entre ellos o3 de OpenAI, Gemini Thinking de Google, Claude 3.7 Sonnet-Thinking y DeepSeek-R1. Si bien Anthropic, Google y DeepSeek aún no han respondido, OpenAI declinó hacer comentarios.

La investigación de Apple no niega los logros de la IA en lenguaje, imágenes o macrodatos. Sin embargo, pone de relieve un punto ciego que se está pasando por alto: la capacidad de razonar genuinamente, que es fundamental para alcanzar la verdadera inteligencia.

Fuente: https://baovanhoa.vn/nhip-song-so/ai-suy-luan-kem-dan-khi-gap-bai-toan-phuc-tap-141602.html