Une nouvelle forme d'intelligence artificielle pourrait être utilisée pour créer des armes biologiques.

Le téléphone affiche l'interface d'apprentissage du modèle GPT-O1 d'OpenAI - Photo : FINANCIAL TIMES

Selon le Financial Times du 13 septembre, OpenAI a admis que son modèle GPT-o1, lancé le 12 septembre, augmente « significativement » le risque que l'intelligence artificielle (IA) soit exploitée pour créer des armes biologiques.

La documentation d'OpenAI expliquant le fonctionnement de GPT-O1 confirme que ce nouveau modèle présente un « niveau de risque moyen » concernant les questions liées aux armes chimiques, biologiques, radiologiques et nucléaires. Il s'agit du niveau de risque le plus élevé jamais attribué par OpenAI à ses modèles d'IA.

Selon OpenAI, cela signifie que GPT-o1 pourrait « améliorer considérablement » la capacité des experts à fabriquer des armes biologiques à des fins malveillantes.

Mira Murati, directrice technique (CTO) d'OpenAI, a déclaré que même si GPT-o1 est encore en phase de test, les capacités avancées de ce modèle exigent que l'entreprise soit extrêmement « prudente » quant à sa feuille de route pour sa mise à disposition du public.

Mme Murati a également affirmé que le modèle avait été testé de manière approfondie par une équipe multidisciplinaire d'experts. Ces derniers avaient été engagés par OpenAI pour examiner les limites du modèle développé par l'entreprise.

Le processus de test a démontré que le modèle GPT-o1 répondait beaucoup mieux aux critères généraux de sécurité que ses prédécesseurs, a indiqué Murati.

Par ailleurs, les représentants d'OpenAI ont assuré que la version d'essai de GPT-o1 est « sûre pour le déploiement » et ne peut pas créer de risques plus complexes que ceux des technologies déjà développées.

Malgré ces assurances, une grande partie de la communauté scientifique et des passionnés d'IA restent largement pessimistes quant à l'avenir de cette technologie.

Les inquiétudes concernant le développement trop rapide de l'IA et son évolution plus rapide que celle des réglementations qui la régissent sont croissantes.

Le professeur Yoshua Bengio, spécialiste en informatique à l'Université de Montréal et l'un des plus grands experts mondiaux en intelligence artificielle, a déclaré que si OpenAI présente actuellement un « risque moyen » d'armes chimiques et biologiques, alors « cela ne fait que renforcer l'importance et l'urgence » de réglementations, telles que le projet de loi très controversé en Californie, pour encadrer ce domaine.

Ce scientifique a souligné que ces institutions sont particulièrement nécessaires dans le contexte de l'IA qui se rapproche de plus en plus du niveau d'intelligence artificielle universelle (AGI), c'est-à-dire la capacité de raisonner à égalité avec les humains.

« Plus les modèles d'IA pionniers se rapprochent de l'IA générale, plus les risques augmentent si les précautions nécessaires ne sont pas prises. L'amélioration des capacités de raisonnement de l'IA et son utilisation potentielle à des fins frauduleuses sont extrêmement dangereuses », a estimé Bengio.

Source : https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm