alerta antrópico

A Anthropic acaba de convocar as maiores empresas de IA do mundo para coordenar uma paralisação temporária do desenvolvimento do próximo modelo avançado, alertando que ele pode sair do controle humano.

Anthropic pede uma pausa no desenvolvimento de novos sistemas avançados de IA. Foto: Bloomberg .

Em uma postagem de blog de 4 de junho, a Anthropic sugeriu que desacelerar ou interromper o desenvolvimento de IA avançada em todo o mundo "poderia ser algo bom". No entanto, a empresa alertou que, se ao menos uma entidade parar, os concorrentes continuarão avançando.

"Acreditamos que o mundo deveria ter a opção de desacelerar ou pausar temporariamente o desenvolvimento de IA avançada para que as estruturas sociais e a pesquisa sobre segurança da IA ​​possam acompanhar o ritmo do desenvolvimento tecnológico", disse Anthropic.

O que mais preocupa a Anthropic é o cenário de "autoaperfeiçoamento recursivo", em que a IA projeta, constrói e treina a próxima versão de si mesma sem intervenção humana.

O artigo, escrito em coautoria por Jack Clark e Marina Favaro, chefe do instituto de pesquisa interna da Anthropic, revela que mais de 80% do código que entra nos sistemas da empresa é atualmente escrito por Claude. Os engenheiros estão produzindo aproximadamente oito vezes mais código por trimestre do que antes de 2025.

Você também pode gostar

Alerta sobre vazamento de informações de contas digitais.Desde campanhas de distribuição de malware por meio de aplicativos de mensagens até grandes vazamentos de dados, as contas digitais estão se tornando um alvo principal para os cibercriminosos. O aumento no vazamento de informações de login demonstra a ameaça real da insegurança cibernética tanto para usuários individuais quanto para organizações/empresas.

Quando é que partilhar um link para uma obra jornalística é considerado uma violação de direitos de autor?Na tarde de 24 de junho, o Diretor do Departamento de Rádio, Televisão e Informação Eletrônica forneceu informações sobre casos que poderiam configurar violação de direitos autorais de obras jornalísticas.

A instalação de software pirata pode resultar em multas de até 1 bilhão de VND.VTV.vn - Instalar e usar software pirata do Windows e do Office pode resultar em multas de até 1 bilhão de VND ou processo criminal.

Isso não é apenas um alerta teórico. A empresa por trás do chatbot Claude argumenta que, com poder computacional suficiente e no ritmo atual de desenvolvimento, um sistema de IA poderia projetar e desenvolver seu próprio sucessor. Esse marco traria benefícios significativos para a ciência e a medicina , mas também aumentaria o risco de as coisas saírem do controle humano.

Para uma pausa verdadeiramente eficaz, é necessário o consenso de muitas das principais empresas de IA em diversos países, principalmente nos EUA e na China. A Anthropic afirmou que seu instituto de pesquisa interno irá explorar essa questão com outras partes e tomar diversas medidas para ajudar a construir o mecanismo para uma reestruturação abrangente.

Este alerta surge no momento em que a Anthropic se prepara para uma oferta pública inicial (IPO), um negócio que poderia avaliar a empresa em quase US$ 1 trilhão . A combinação de avisos sobre a segurança da IA ​​e ambições no mercado de ações cria um paradoxo notável.

Esta não é a primeira vez que um grande nome na área de IA pede uma pausa. Em 2023, um grupo que incluía Elon Musk e vários pesquisadores de IA assinou uma carta pedindo uma paralisação de seis meses no desenvolvimento, mas isso não produziu resultados tangíveis.

Você também pode gostar

Os influenciadores digitais (KOLs) devem denunciar às autoridades caso vejam outros produtos sendo anunciados por eles.As responsabilidades dos KOLs (Key Opinion Leaders, ou Líderes de Opinião Chave) na publicidade de produtos podem não terminar após a assinatura de um contrato ou a publicação de conteúdo. Órgãos reguladores forneceram recentemente esclarecimentos importantes sobre essa questão.

13º Congresso Nacional da União da Juventude: Moldando o Papel da Juventude na Nova EraCom base nas conquistas notáveis ​​do mandato de 2022-2026, o 13º Congresso Nacional da União da Juventude estabeleceu tarefas-chave com o objetivo de desenvolver uma geração de jovens corajosos, criativos, tecnologicamente competentes e que contribuam ativamente para o desenvolvimento do país.

A Polônia investe quase US$ 1 bilhão na modernização de seu sistema Patriot: quão poderoso é o PAC-2 GEM-T?A Polônia acaba de finalizar um contrato de US$ 988 milhões para a compra de mísseis PAC-2 GEM-T, transformando o sistema Patriot em um escudo de aço de longo alcance, pronto para destruir qualquer alvo a 150 km de distância.

Fonte: https://znews.vn/anthropic-canh-bao-post1657460.html