Será que o projeto de "super IA" que ameaça a humanidade contribuiu para a demissão do CEO da OpenAI, Altman?

Em uma reportagem de 23 de novembro, a Reuters citou duas fontes afirmando que a carta nunca havia sido mencionada antes e que o algoritmo de IA representou um desenvolvimento significativo antes da demissão de Sam Altman, cofundador e CEO da OpenAI, em 17 de novembro. Segundo essas fontes, a carta foi um dos fatores que levaram à decisão de demitir o conselho administrativo da OpenAI.

Os pesquisadores que escreveram e enviaram a carta não responderam imediatamente a um pedido de comentário.

Altman retornou triunfalmente no final do dia 21 de novembro, após mais de 700 funcionários da OpenAI ameaçarem se demitir e se juntar à Microsoft junto com o CEO demitido. Isso pôs fim a quase uma semana de turbulência com uma série de acontecimentos inesperados na OpenAI, uma das empresas de pesquisa em IA mais proeminentes do mundo atualmente e proprietária do popular aplicativo ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — O Sr. Altman em um evento da APEC nos EUA em 16 de novembro.

Segundo uma das fontes, Mira Murati, uma das gestoras seniores de longa data da OpenAI, mencionou um projeto chamado Q* (pronuncia-se "Q Star") aos funcionários em 22 de novembro e afirmou que uma carta havia sido enviada ao conselho de administração da empresa antes da onda de choque tecnológica global do último fim de semana.

Após a publicação desta notícia, um porta-voz da OpenAI afirmou que a Sra. Murati havia informado a equipe sobre o que a mídia estava prestes a divulgar, mas que não comentaria a veracidade da informação.

Sam Altman retorna como CEO da OpenAI.

Uma das fontes revelou que a OpenAI fez progressos no Projeto Q*. Algumas pessoas na empresa acreditam que o projeto pode representar um avanço na busca da OpenAI pela superinteligência, também conhecida como inteligência artificial geral (AGI). A empresa define AGI como um sistema de IA mais inteligente que os humanos.

Com seus vastos recursos computacionais, o novo modelo consegue resolver alguns problemas, segundo a fonte. Embora o modelo só realize cálculos matemáticos de nível fundamental, a fonte afirmou que a capacidade de resolver tais problemas deixa os pesquisadores muito otimistas quanto ao sucesso futuro do Q*.

Pesquisadores consideram a matemática uma linha de frente no desenvolvimento da IA generativa. Atualmente, a IA generativa consegue escrever e traduzir entre idiomas, embora as respostas para as mesmas perguntas possam ser muito diferentes. Mas dominar a matemática – onde existe apenas uma resposta correta – implica que a IA será capaz de raciocinar de forma mais precisa, semelhante à inteligência humana. Pesquisadores da área de IA acreditam que isso poderá ser aplicado a novas pesquisas científicas .

Ao contrário de um computador que só consegue resolver um número limitado de cálculos, a Inteligência Artificial Geral (IAG) pode generalizar, aprender e compreender problemas. Em uma carta ao conselho da OpenAI, os pesquisadores destacaram o poder e os potenciais perigos da IA, segundo fontes. Cientistas da computação discutem há tempos os perigos representados por máquinas superinteligentes, como a possibilidade de elas decidirem destruir a humanidade para seu próprio benefício.

Nesse contexto, o Sr. Altman liderou os esforços para transformar o ChatGPT em um dos aplicativos de software de crescimento mais rápido da história e atrair o investimento — bem como os recursos computacionais — necessários da Microsoft para se aproximar da superinteligência generalizada, ou AGI.

Além de anunciar uma série de novas ferramentas em um evento neste mês, o Sr. Altman disse a líderes mundiais em São Francisco na semana passada que acredita que a Inteligência Artificial Geral (IAG) está ao nosso alcance.

Um dia depois, o conselho da OpenAI demitiu o Sr. Altman.

Link da fonte