O mundo não está pronto para desenvolver uma IA tão inteligente quanto o cérebro humano.

O mundo não está pronto para a inteligência artificial geral (AGI), ou para o ponto em que a inteligência artificial será tão inteligente quanto o cérebro humano, de acordo com um pesquisador sênior da OpenAI.

A inteligência artificial geral é um risco?

Durante anos, pesquisadores especularam sobre o surgimento da inteligência artificial geral, ou AGI, em que sistemas artificiais seriam capazes de lidar com uma ampla gama de tarefas tão bem quanto humanos. Muitos veem seu surgimento como um risco existencial, pois poderia permitir que computadores operassem de maneiras que os humanos não conseguem imaginar.

Segundo o Sr. Miles Brindage, o mundo não está pronto para a era da inteligência artificial geral (IAG).

Agora, o homem encarregado de garantir que a OpenAI, desenvolvedora do ChatGPT, esteja pronta para a AGI, admite que nem o mundo nem a própria empresa estão "prontos" para o próximo passo. Miles Brundage atuou como "consultor sênior da OpenAI para prontidão para AGI", mas anunciou sua saída esta semana, quando a empresa dissolveu o grupo.

"Nem a OpenAI nem qualquer outro laboratório pioneiro está pronto (para a IA), e nem o mundo. Para ser claro, não acho que esta seja uma declaração controversa entre a liderança da OpenAI, mas sim uma questão de saber se a empresa e o mundo estão no caminho certo para estarem prontos no momento certo", disse Brundage, que passou seis anos ajudando a moldar as iniciativas de segurança de IA da empresa.

A saída de Brundage marca a mais recente de uma série de saídas notáveis ​​das equipes de segurança da OpenAI. Jan Leike, um pesquisador renomado, saiu após afirmar que "a cultura e os processos de segurança ficaram em segundo plano em relação a produtos brilhantes". O cofundador Ilya Sutskever também saiu para lançar sua própria startup de IA focada no desenvolvimento de IA avançada segura.

A dissolução do grupo "AGI Readiness" por Brundage ocorre poucos meses após a empresa dissolver seu grupo "Superalignment", dedicado a mitigar riscos de IA de longo prazo, expondo tensões entre a missão original da OpenAI e suas ambições comerciais.

A pressão do lucro tira a OpenAI do caminho seguro

A OpenAI supostamente enfrenta pressão para fazer a transição de uma organização sem fins lucrativos para uma empresa com fins lucrativos dentro de dois anos — sob pena de perder o financiamento de sua recente rodada de investimentos de US$ 6,6 bilhões. Essa mudança em direção à comercialização tem sido uma preocupação de longa data para Brundage, que vem expressando reservas desde 2019, quando a OpenAI estabeleceu sua divisão com fins lucrativos.

O CEO da OpenAI, Sam Altman, está tendo uma "dor de cabeça" devido à pressão que a empresa tem para buscar lucros.

Ao explicar sua saída, Brundage citou restrições crescentes à sua liberdade de pesquisar e publicar na renomada empresa. Ele enfatizou a necessidade de uma voz independente nas discussões sobre políticas de IA, livre de preconceitos da indústria e conflitos de interesse. Tendo assessorado a liderança da OpenAI nos preparativos internos, ele acredita que agora pode ter um impacto maior na governança global de IA de fora da organização.

As saídas também refletem uma divisão cultural mais profunda dentro da OpenAI. Muitos pesquisadores se juntaram para promover a pesquisa em IA e agora se encontram em um ambiente cada vez mais voltado para o produto. A alocação interna de recursos tornou-se um ponto crítico — relatos indicam que a equipe de Leike teve seu poder computacional negado para pesquisas de segurança antes de ser dissolvida.

A OpenAI tem enfrentado questionamentos nos últimos meses sobre seus planos para o desenvolvimento de inteligência artificial e a seriedade com que leva a segurança. Embora fundada como uma organização sem fins lucrativos dedicada a pesquisar como construir inteligência artificial segura, o sucesso da ChatGPT gerou investimentos significativos e pressão para usar a nova tecnologia com fins lucrativos.

Fonte: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm