O mundo ainda não está preparado para desenvolver uma IA tão inteligente quanto o cérebro humano.

Segundo um pesquisador sênior da OpenAI, o mundo ainda não está preparado para a inteligência artificial geral (AGI), ou seja, o ponto em que a inteligência artificial se torna tão inteligente quanto o cérebro humano.

A inteligência artificial geral representa um risco?

Durante anos, pesquisadores têm especulado sobre o surgimento da inteligência artificial generalizada, ou AGI, na qual sistemas artificiais lidariam com problemas como humanos em uma ampla gama de tarefas. Muitos argumentam que seu surgimento representa um risco inerente, pois poderia permitir que os computadores operassem de maneiras que os humanos não esperariam.

Segundo Miles Brindage, o mundo ainda não está preparado para a era da inteligência artificial generalizada (AGI).

Agora, a pessoa encarregada de garantir que a OpenAI, desenvolvedora do ChatGPT, estivesse preparada para a chegada da Inteligência Artificial Geral (IAG), admite que nem o mundo nem a própria empresa estavam "prontos" para o próximo passo. Miles Brundage, anteriormente "consultor sênior da OpenAI para prontidão em IAG", anunciou sua saída esta semana, juntamente com o desmantelamento da equipe da empresa.

"Nem a OpenAI nem qualquer outro laboratório pioneiro está pronto (para a IAG), e o mundo também não. Para ser claro, não acho que esta seja uma afirmação controversa entre os líderes da OpenAI, mas sim mais uma questão sobre se a empresa e o mundo estão no caminho certo para estarem prontos no momento certo", disse Brundage, que passou seis anos ajudando a moldar as iniciativas de segurança de IA da empresa.

A saída de Brundage é a mais recente de uma série de saídas notáveis ​​das equipes de segurança da OpenAI. Jan Leike, um pesquisador de destaque, deixou a empresa após afirmar que "a cultura e os processos de segurança ficaram para trás em relação aos produtos chamativos". O cofundador Ilya Sutskever também saiu para lançar sua própria startup de IA focada no desenvolvimento de Inteligência Artificial Geral (IAG) segura.

A dissolução do grupo "AGI Readiness" por Brundage ocorre poucos meses depois de a empresa ter dissolvido o seu grupo "Superalignment", que se concentrava na mitigação de riscos de IA a longo prazo, provocando tensões entre a missão original da OpenAI e as suas ambições comerciais.

A pressão por lucros está fazendo com que a OpenAI se desvie de práticas seguras.

Segundo o relatório, a OpenAI enfrenta pressão para se transformar de uma organização sem fins lucrativos em uma empresa com fins lucrativos dentro de dois anos – ou corre o risco de perder sua recente rodada de financiamento de US$ 6,6 bilhões. Essa mudança rumo à comercialização tem sido uma preocupação antiga de Brundage, evidente em suas reservas desde 2019, quando a OpenAI estabeleceu sua divisão com fins lucrativos.

O CEO da OpenAI, Sam Altman, enfrenta um grande desafio enquanto sua empresa busca se tornar lucrativa.

Ao explicar sua saída, Brundage citou as crescentes restrições à sua liberdade de pesquisa e publicação na renomada empresa. Ele enfatizou a necessidade de uma voz independente nas discussões sobre políticas de IA, não influenciada por vieses da indústria e conflitos de interesse. Após assessorar a liderança da OpenAI em sua preparação interna, ele acreditava ser possível agora ter um impacto maior na governança global de IA a partir de fora da organização.

Essa saída também reflete divisões culturais mais profundas dentro da OpenAI. Muitos pesquisadores se juntaram à organização para promover a pesquisa em IA e agora se encontram em um ambiente cada vez mais voltado para produtos. A alocação interna de recursos tornou-se um ponto crítico – relatos indicam que a equipe de Leike teve seu poder computacional negado para pesquisas de segurança antes de sua dissolução.

Nos últimos meses, a OpenAI enfrentou inúmeras perguntas sobre seus planos de desenvolvimento de inteligência artificial e o grau de prioridade que atribui à segurança. Embora tenha sido fundada como uma organização sem fins lucrativos com o objetivo de pesquisar como construir inteligência artificial com segurança, o sucesso do ChatGPT levou a investimentos significativos e à pressão para usar a nova tecnologia com fins lucrativos.

Fonte: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm