Le nouveau modèle d'OpenAI augmente le risque de création d'armes biologiques

La capacité du modèle à raisonner, à résoudre des problèmes mathématiques complexes et à répondre à des questions de recherche scientifique est considérée comme une avancée majeure dans l’effort visant à développer l’intelligence artificielle générale (AGI) – des machines dotées de capacités cognitives semblables à celles des humains.

OpenAI s'est montré particulièrement prudent quant à la manière dont le modèle o1 a été présenté au public, compte tenu de ses capacités avancées. Photo : Getty Images

Selon le Financial Times, OpenAI a qualifié le risque de ces nouveaux modèles de « moyen » face aux problèmes liés aux armes chimiques, biologiques, radiologiques et nucléaires (CBRN), le niveau le plus élevé jamais évalué par l'entreprise. Cela signifie que cette technologie a « considérablement amélioré » la capacité des experts à créer des armes biologiques.

Les logiciels d’IA capables de raisonnement détaillé, en particulier entre les mains de mauvais acteurs, peuvent augmenter le risque d’abus, affirment les experts.

Le professeur Yoshua Bengio, scientifique de renommée mondiale en IA de l'Université de Montréal, a souligné que ce niveau de risque moyen accroît l'urgence d'adopter des réglementations sur l'IA, comme le projet de loi SB 1047, actuellement débattu en Californie. Ce projet de loi oblige les fabricants d'IA à prendre des mesures pour réduire le risque que leurs modèles soient utilisés à mauvais escient pour développer des armes biologiques.

Selon The Verge, la sécurité et la sûreté des modèles d’IA sont devenues une préoccupation majeure alors que les entreprises technologiques comme Google, Meta et Anthropic se précipitent pour créer et améliorer des systèmes d’IA avancés.

Ces systèmes ont le potentiel d’apporter de grands avantages en aidant les humains à accomplir des tâches et en les assistant dans divers domaines, mais posent également des défis en termes de sécurité et de responsabilité sociale.

Cao Phong (selon FT, Reuters, The Verge)

Source : https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html