Le nouveau modèle d'OpenAI accroît le risque de création d'armes biologiques

La capacité du modèle à raisonner, à résoudre des problèmes mathématiques complexes et à répondre à des questions de recherche scientifique est considérée comme un progrès majeur dans les efforts visant à développer une intelligence artificielle générale (IAG) – des machines dotées de capacités cognitives semblables à celles des humains.

OpenAI a déclaré avoir fait preuve d'une prudence particulière quant à la manière dont le modèle o1 a été présenté au public, compte tenu de ses capacités avancées. Photo : Getty Images

D'après le Financial Times, OpenAI a évalué le risque lié à ces nouveaux modèles comme étant « moyen » en ce qui concerne les armes chimiques, biologiques, radiologiques et nucléaires (CBRN), soit le niveau le plus élevé jamais attribué par l'entreprise. Cela signifie que cette technologie a « considérablement amélioré » la capacité des experts à créer des armes biologiques.

Les logiciels d'IA capables de raisonnements détaillés, surtout entre de mauvaises mains, peuvent accroître le risque d'abus, selon les experts.

Le professeur Yoshua Bengio, chercheur de renommée mondiale en intelligence artificielle à l'Université de Montréal, a souligné que ce niveau de risque moyen renforce l'urgence d'une réglementation de l'IA, à l'instar du projet de loi SB 1047, actuellement en discussion en Californie. Ce texte législatif oblige les concepteurs d'IA à prendre des mesures pour réduire le risque que leurs modèles soient détournés pour développer des armes biologiques.

Selon The Verge, la sécurité des modèles d'IA est devenue une préoccupation majeure, car des entreprises technologiques comme Google, Meta et Anthropic se livrent une véritable course pour construire et améliorer des systèmes d'IA avancés.

Ces systèmes ont le potentiel d'apporter de grands avantages en aidant les humains à accomplir des tâches et en leur apportant une assistance dans divers domaines, mais ils posent également des défis en matière de sécurité et de responsabilité sociale.

Cao Phong (selon le Financial Times, Reuters et The Verge)

Source : https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html