Um projeto de "super IA" que ameaça a humanidade poderia contribuir para a demissão do CEO Altman da OpenAI?

Em uma reportagem de 23 de novembro, a Reuters citou duas fontes dizendo que a carta nunca havia sido mencionada antes e que o algoritmo de IA foi um grande desenvolvimento antes de Sam Altman, cofundador e CEO da OpenAI, ser demitido em 17 de novembro. De acordo com essas fontes, a carta foi um fator na lista de motivos para a decisão de demitir o conselho de diretores da OpenAI.

Os pesquisadores que escreveram e enviaram a carta não responderam imediatamente a um pedido de comentário.

Altman fez um retorno triunfal no final de 21 de novembro, depois que mais de 700 funcionários da OpenAI ameaçaram pedir demissão e se juntar à Microsoft junto com o CEO demitido. Isso encerrou quase uma semana de turbulência com uma série de acontecimentos inesperados na OpenAI, uma das empresas de pesquisa de IA mais proeminentes do mundo atualmente e proprietária do popular aplicativo ChatGPT.

Sr. Altman em um evento da APEC nos EUA em 16 de novembro.

De acordo com uma das fontes, uma das gerentes seniores de longa data da OpenAI, Mira Murati, mencionou um projeto chamado Q* (pronuncia-se "Q Star") aos funcionários em 22 de novembro e disse que uma carta havia sido enviada ao conselho de diretores da empresa antes das ondas de choque da indústria global de tecnologia no último fim de semana.

Depois que a história foi divulgada, um porta-voz da OpenAI disse que a Sra. Murati havia contado aos funcionários o que a mídia iria reportar, mas ela não quis comentar sobre a precisão das informações.

Sam Altman retorna como CEO da OpenAI

Uma das fontes revelou que a OpenAI avançou no Projeto Q*. Alguns membros da empresa acreditam que o projeto pode ser um avanço na busca da OpenAI por superinteligência, também conhecida como inteligência artificial geral (AGI). A empresa define AGI como um sistema de IA mais inteligente que os humanos.

Com seus vastos recursos computacionais, o novo modelo pode resolver alguns problemas, de acordo com a fonte. Embora o modelo só faça cálculos para o nível do ensino fundamental, a capacidade de resolver tais problemas deixa os pesquisadores muito otimistas quanto ao sucesso futuro do Q*, disse a fonte.

Pesquisadores veem a matemática como uma fronteira no desenvolvimento da IA ​​generativa. Atualmente, a IA generativa permite a escrita e a tradução entre idiomas, embora as respostas para as mesmas perguntas possam ser muito diferentes. Mas dominar a matemática — um campo onde só existe uma resposta certa — implica que a IA se tornará melhor em raciocínio, assim como a inteligência humana. Pesquisadores de IA acreditam que isso pode ser aplicado a novas pesquisas científicas .

Ao contrário de um computador que só consegue resolver um conjunto limitado de cálculos, a IA pode generalizar, aprender e compreender problemas. Em uma carta ao conselho da OpenAI, os pesquisadores destacaram o poder e os potenciais perigos da IA, segundo fontes. Cientistas da computação há muito discutem os perigos representados por máquinas superinteligentes, como, por exemplo, a possibilidade de elas decidirem destruir a humanidade em benefício próprio.

Nesse contexto, o Sr. Altman liderou esforços para transformar o ChatGPT em um dos aplicativos de software de crescimento mais rápido da história e atrair o investimento — e os recursos de computação — da Microsoft necessários para se aproximar da superinteligência generalizada, ou AGI.

Além de anunciar uma série de novas ferramentas em um evento neste mês, o Sr. Altman disse aos líderes mundiais em São Francisco na semana passada que acredita que a AGI está ao nosso alcance.

Um dia depois, o conselho da OpenAI demitiu o Sr. Altman.

Link da fonte: https://thanhnien.vn/he-lo-chi-tiet-moi-ve-dien-bien-kich-tinh-o-openai-185231123091450477.htm