O especialista em IA deixou a OpenAI, empresa que cofundou, no início deste ano para abrir seu próprio laboratório de IA chamado Safe Superintelligence Inc.

“O pré-treinamento, como o conhecemos, deixará de existir”, disse Sutskever em uma conferência sobre processamento de informações neurais.

O termo "pré-treinamento" refere-se ao estágio inicial no desenvolvimento de modelos de IA, quando um modelo de linguagem de grande porte aprende padrões a partir de grandes quantidades de dados não rotulados, geralmente textos da internet, livros e outras fontes.

esgotamento dos recursos de dados

Sutskever afirmou que, embora acredite que os dados atuais ainda possam acelerar o desenvolvimento da IA, o setor está ficando sem novos recursos para treinar modelos.

Segundo ele, isso acabará por levar a uma mudança na forma como os modelos de IA são treinados atualmente.

8da2491217a6b424c37773100bec59ff.jpeg
Os modelos de IA descobrirão como se auto-treinar com base em quantidades limitadas de dados. Foto: Yahoo Tech

Essa também é a situação que ocorreu e está ocorrendo com os recursos fósseis, quando os campos de petróleo são um recurso limitado, ou como a internet, que contém apenas uma quantidade finita de conteúdo criado pelo ser humano.

“Atingimos o pico de dados e ele não estará mais lá no futuro”, disse Sutskever. “Temos que trabalhar com os dados disponíveis, com as fontes atuais da internet.”

Sutskever prevê que os modelos da próxima geração serão "verdadeiramente semelhantes a agentes". "Agente" é um termo popular na área de IA, geralmente entendido como um sistema de IA autônomo que executa tarefas, toma decisões e interage com o software de forma independente.

Além de serem "semelhantes a agentes", ele afirmou que os futuros sistemas de IA serão capazes de raciocinar. Ao contrário da IA ​​atual, que reconhece padrões principalmente com base no que o modelo aprendeu anteriormente, os futuros sistemas de IA poderão resolver problemas passo a passo, de uma forma mais próxima do pensamento. "Quanto mais raciocínio, menos previsível o sistema se torna", disse Sutskever.

A IA pode criar seu próprio método de auto-treinamento.

O especialista também comparou o desenvolvimento de sistemas de IA à biologia evolutiva, citando pesquisas que mostram a relação entre o tamanho do cérebro e o tamanho do corpo em animais.

Por exemplo, enquanto a maioria dos mamíferos segue um certo padrão proporcional, os humanos têm proporções cerebrais e corporais marcadamente diferentes.

E em algum momento, à medida que a evolução encontrar novas taxas de crescimento cerebral para nossos ancestrais, a IA também poderá encontrar novas maneiras de escalar além do método atual de treinamento de modelos.

(De acordo com TheVerge e Yahoo Tech)

Ao revelar os salários "astronômicos" da xAI e da OpenAI , Elon Musk acusou a OpenAI de pagar salários excessivos aos seus funcionários, classificando a prática como anticompetitiva. No entanto, a startup do bilionário, a xAI, também paga salários muito acima da média.