Cofundador da OpenAI revela sobre super IA

Andrej Karpathy, cofundador da OpenAI. Foto: Dwarkesh Patel .

Enquanto muitos na indústria de tecnologia acreditam que a inteligência artificial geral (IAG) está prestes a se tornar realidade, Andrej Karpathy, um renomado cientista que atuou como diretor de IA da Tesla e cofundador da OpenAI, tem uma visão diferente. Ele acredita que o caminho para a IAG ainda é longo e que o mundo precisará de pelo menos mais uma década para superar os desafios fundamentais.

"Os problemas têm solução, embora sejam difíceis no momento. Acredito que levará cerca de dez anos para superar todas as limitações atuais", disse Karpathy em uma conversa recente.

Lição valiosa

Segundo o Sr. Karpathy, o rápido desenvolvimento de modelos de grande linguagem (LLM) nos últimos anos levou muitos a acreditar que a era dos "agentes de IA", sistemas com capacidades autônomas, chegou. No entanto, o ex-chefe de IA da Tesla discorda dessa visão. Ele acredita que 2025 não é "o ano do agente de IA".

Ele explica que ferramentas como Claude e Codex mostram potencial para auxiliar humanos em muitas tarefas, mas ainda estão longe de serem consideradas “colegas digitais”.

“No momento, os agentes de IA não são inteligentes o suficiente, não usam computadores naturalmente e não têm a capacidade de aprender continuamente. Não se pode dizer algo a eles e esperar que se lembrem. Eles não têm cognição, o que impede que os modelos realmente funcionem”, disse Karpathy.

Karpathy atuou como diretor de IA da Tesla. Foto: Teslarati .

Em seus 15 anos de carreira em IA, Karpathy afirma ter presenciado muitos momentos decisivos que mudaram toda a indústria. Ele estudou e trabalhou com Geoffrey Hinton, o pai das redes neurais, na Universidade de Toronto, quando o aprendizado profundo ainda era uma área de estudo relativamente desconhecida. O sucesso do AlexNet em 2012 inaugurou uma nova era para a IA, tornando as redes neurais a base para muitas aplicações futuras.

Após a onda do aprendizado profundo, a indústria de IA gradualmente migrou para a construção de agentes capazes de observar, agir e aprender com o ambiente. Um dos primeiros experimentos foi o aprendizado por reforço profundo em um jogo de Atari por volta de 2013. Embora considerado inovador na época, ele acredita que essa direção foi "um erro de timing".

“É compreensível que as pessoas queiram experimentar em um ambiente de jogo, onde é fácil simular e mensurar. Mas isso não reflete o mundo real. Se você simplesmente deixar a IA digitar em um teclado, clicar em um mouse e esperar por uma recompensa, ela não aprenderá nada significativo”, disse ele.

Não é o momento certo

Na OpenAI, Karpathy trabalhou no Projeto Universe, um esforço para criar um agente controlado por mouse e teclado que pudesse executar tarefas do mundo real. No entanto, ele admite que o projeto era "muito precoce".

“Ainda não temos o poder das redes neurais e não temos a grande plataforma de modelagem de linguagem que temos hoje”, disse Karpathy.

Karpathy acredita que levará uma década para desenvolver a IAG. Foto: Vidhya .

O cientista acrescentou que, para desenvolver um agente verdadeiramente inteligente, os modelos precisam ter uma base sólida em representação de linguagem e cognição. Karpathy comparou o processo de pré-treinamento com dados da internet a uma forma de "evolução ruim". No entanto, esse processo ajuda a IA a acumular uma enorme quantidade de conhecimento e habilidades básicas de raciocínio.

No entanto, ele alerta que confiar demais no conhecimento existente pode tornar a IA menos criativa. "Talvez precisemos encontrar uma maneira de remover parte do conhecimento e deixar o que chamamos de núcleo cognitivo, a parte que representa a capacidade de pensar, resolver problemas e criar estratégias", disse Karpathy.

Dessa forma, a IA está entrando em uma fase de transição. A combinação do poder dos modelos de linguagem e da capacidade de ação dos agentes abrirá um novo capítulo para a tecnologia. No entanto, esse caminho, segundo Karpathy, não pode ser contado em apenas alguns anos.

Fonte: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html