OpenAI et Anthropic partagent leurs derniers modèles d'IA avec le gouvernement américain.

Les deux entreprises s'associeront à l'Institut américain de sécurité de l'IA, une unité du National Institute of Standards and Technology (NIST), une agence fédérale américaine. Cette initiative est perçue comme une étape importante dans la gestion et le contrôle des technologies d'IA, un sujet de préoccupation majeur depuis le lancement de ChatGPT d'OpenAI.

« Ce n’est qu’un début, mais une étape importante dans les efforts déployés pour gérer de manière responsable l’avenir de l’IA », a déclaré Elizabeth Kelly, directrice de l’Institut américain de sécurité de l’IA.

Aux termes de cet accord, l'Institut américain de sécurité de l'IA fournira aux deux entreprises des recommandations sur les améliorations potentielles à apporter à la sécurité de leurs modèles, avant et après leur publication. L'institut collaborera également étroitement avec l'Institut britannique de sécurité de l'IA tout au long de ce processus.

« Ce partenariat avec l’American AI Safety Institute nous permet de tirer parti de leur vaste expertise pour tester rigoureusement nos modèles avant leur déploiement à grande échelle. Cela renforce notre capacité à identifier et à atténuer les risques, favorisant ainsi un développement responsable de l’IA », a déclaré Jack Clark, cofondateur et responsable des politiques chez Anthropic.

Cette initiative s'inscrit dans le cadre d'un effort visant à mettre en œuvre le décret présidentiel de la Maison Blanche sur l'IA, qui doit être publié en 2023 et qui vise à créer un cadre juridique pour le déploiement rapide des modèles d'IA aux États-Unis.

Mais tandis que le gouvernement fédéral privilégie une approche volontaire, les législateurs californiens, pôle technologique américain, ont adopté le 28 août une loi d'État sur la sécurité de l'IA. Si elle est signée par le gouverneur, cette loi imposerait une réglementation plus stricte au secteur de l'IA.

Sam Altman, PDG d'OpenAI, s'est déclaré favorable à une réglementation de l'IA au niveau national plutôt qu'au niveau des États, arguant que cela permettrait d'éviter le risque d'entraver la recherche et l'innovation dans le domaine de l'IA.

Cette initiative de collaboration entre les principales entreprises technologiques et le gouvernement américain témoigne d'une tendance à équilibrer innovation et sécurité dans le domaine en pleine évolution de l'IA.

Source : https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html