El cofundador de OpenAI revela sobre la súper IA

Andrej Karpathy, cofundador de OpenAI. Foto: Dwarkesh Patel .

Si bien muchos en la industria tecnológica creen que la inteligencia artificial general (IAG) está a punto de convertirse en realidad, Andrej Karpathy, reconocido científico que se desempeñó como director de IA de Tesla y cofundador de OpenAI, tiene una opinión diferente. Cree que el camino hacia la IAG aún es largo y que el mundo necesitará al menos otra década para superar los desafíos fundamentales.

«Los problemas tienen solución, aunque actualmente son difíciles. Creo que se necesitarán unos diez años para superar todas las limitaciones actuales», declaró Karpathy en una conversación reciente.

Lección valiosa

Según el Sr. Karpathy, el rápido desarrollo de los grandes modelos de lenguaje (LLM) en los últimos años ha llevado a muchos a creer que ha llegado la era de los "agentes de IA", sistemas con capacidades autónomas. Sin embargo, el exdirector de IA de Tesla discrepa de esta opinión. Cree que 2025 no es "el año del agente de IA".

Explica que herramientas como Claude y Codex muestran el potencial de ayudar a los humanos en muchas tareas, pero aún están lejos de ser considerados “colegas digitales”.

“Actualmente, los agentes de IA no son lo suficientemente inteligentes, no usan las computadoras de forma natural y no tienen la capacidad de aprender continuamente. No se les puede decir algo y esperar que lo recuerden. Carecen de cognición, lo que impide que los modelos funcionen realmente”, afirmó Karpathy.

Karpathy fue director de IA de Tesla. Foto: Teslarati .

En sus 15 años de carrera en IA, Karpathy afirma haber presenciado muchos puntos de inflexión que han transformado por completo la industria. Estudió y trabajó con Geoffrey Hinton, el padre de las redes neuronales, en la Universidad de Toronto, cuando el aprendizaje profundo aún era un campo de estudio relativamente desconocido. El éxito de AlexNet en 2012 marcó el comienzo de una nueva era para la IA, convirtiendo las redes neuronales en la base de muchas aplicaciones futuras.

Tras la ola de aprendizaje profundo, la industria de la IA se desplazó gradualmente hacia la creación de agentes capaces de observar, actuar y aprender de su entorno. Uno de los primeros experimentos fue el aprendizaje de refuerzo profundo en un juego de Atari, alrededor de 2013. Aunque se consideró innovador en su momento, cree que esta dirección fue un error de timing.

Es comprensible que la gente quiera experimentar en un entorno de juego, donde es fácil simular y medir. Pero no refleja el mundo real. Si simplemente dejas que la IA escriba en un teclado, haga clic con el ratón y espere una recompensa, no aprenderá nada significativo, dijo.

No es el momento adecuado

Mientras estuvo en OpenAI, Karpathy trabajó en el Proyecto Universo, un proyecto para crear un agente controlado por ratón y teclado que pudiera realizar tareas del mundo real. Sin embargo, admite que el proyecto era "demasiado prematuro".

"Aún no tenemos el poder de las redes neuronales ni la gran plataforma de modelado del lenguaje que tenemos hoy", afirmó Karpathy.

Karpathy cree que se necesitará una década para desarrollar la inteligencia artificial general. Foto: Vidhya .

El científico añadió que para desarrollar un agente verdaderamente inteligente, los modelos necesitan una base sólida en la representación del lenguaje y la cognición. Karpathy comparó el proceso de preentrenamiento con datos de internet con una forma de "mala evolución". Sin embargo, este proceso ayuda a la IA a acumular una enorme cantidad de conocimiento y habilidades básicas de razonamiento.

Sin embargo, advierte que depender demasiado del conocimiento existente podría reducir la creatividad de la IA. «Quizás necesitemos encontrar la manera de eliminar parte del conocimiento y conservar lo que llamamos el núcleo cognitivo, la parte que representa la capacidad de pensar, resolver problemas y elaborar estrategias», afirmó Karpathy.

En consecuencia, la IA está entrando en una fase de transición. La combinación del poder de los modelos lingüísticos y la capacidad de acción de los agentes abrirá un nuevo capítulo para la tecnología. Sin embargo, según Karpathy, ese camino no se puede contar en solo años.

Fuente: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html