Novas formas de inteligência artificial poderão ser usadas para criar armas biológicas.

O telefone exibe a interface para aprendizado sobre o GPT-o1 da OpenAI - Foto: FINANCIAL TIMES

Segundo o Financial Times , em 13 de setembro, a OpenAI admitiu que seu modelo GPT-o1, lançado em 12 de setembro, aumenta "significativamente" o risco de a inteligência artificial (IA) ser explorada para a criação de armas biológicas.

A documentação da OpenAI que explica o funcionamento do GPT-o1 confirma que o novo modelo possui um "nível de risco médio" em relação a questões envolvendo armas químicas, biológicas, radiológicas e nucleares. Este é o nível de risco mais alto já atribuído pela OpenAI a seus modelos de IA.

Segundo a OpenAI, isso significa que o GPT-o1 poderia "melhorar significativamente" a capacidade de especialistas em fabricar armas biológicas para uso indevido.

Mira Murati, Diretora de Tecnologia (CTO) da OpenAI, afirmou que, embora o GPT-o1 ainda esteja em fase de testes, os recursos avançados desse modelo exigem que a empresa seja extremamente cautelosa em relação ao seu plano de disponibilizá-lo ao público.

A Sra. Murati também afirmou que o modelo foi exaustivamente testado por uma equipe multidisciplinar de especialistas. Esses indivíduos foram contratados pela OpenAI para examinar as limitações do modelo desenvolvido pela empresa.

O processo de testes demonstrou que o modelo GPT-o1 atendeu aos critérios gerais de segurança muito melhor do que seus antecessores, compartilhou Murati.

Além disso, representantes da OpenAI garantiram que a versão de teste do GPT-o1 é "segura para implementação" e não pode criar riscos mais complexos do que as tecnologias já desenvolvidas.

Apesar dessas garantias, uma grande parte da comunidade científica e dos entusiastas da IA ​​permanece bastante pessimista em relação ao futuro dessa tecnologia.

Crescem as preocupações com o desenvolvimento acelerado da IA, que supera a velocidade com que as regulamentações que a regem estão sendo elaboradas e aprovadas.

O professor Yoshua Bengio, especialista em ciência da computação da Universidade de Montreal e um dos principais cientistas de IA do mundo , afirmou que, se a OpenAI representa atualmente um "risco médio" de armas químicas e biológicas, então "isso apenas reforça a importância e a urgência" de regulamentações, como o projeto de lei muito debatido na Califórnia, para governar essa área.

Este cientista enfatizou que essas instituições são particularmente necessárias no contexto da IA, que se aproxima cada vez mais do nível de inteligência artificial universal (AGI), que é a capacidade de raciocinar em pé de igualdade com os humanos.

"Quanto mais próximos os modelos pioneiros de IA chegam da Inteligência Artificial Geral (IAG), maiores se tornam os riscos se as devidas precauções não forem tomadas. A melhoria nas capacidades de raciocínio da IA ​​e seu potencial uso para fraudes são extremamente perigosos", avaliou Bengio.

Fonte: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm