Le Japon prévoit de créer un institut de sécurité de l'IA début 2024

Selon VNA , le Japon va créer une nouvelle agence chargée d'élaborer des normes de sécurité pour l'intelligence artificielle (IA) afin de répondre aux risques tels que l'utilisation abusive de l'IA pour créer de faux contenus et diffuser de fausses informations qui deviennent de plus en plus courants.

Les informations ci-dessus ont été annoncées par le Premier ministre Fumio Kishida lors de la réunion du Conseil stratégique de l'IA qui s'est tenue le 21 décembre à Tokyo.

La nouvelle organisation devrait être créée en janvier 2024 sous le nom de « AI Safety Institute » (AISI), sous l'égide de l'Agence de promotion des technologies de l'information (IPA), du ministère de l'Économie , du Commerce et de l'Industrie du Japon (METI).

L'AISI sera composée d'experts en IA et en cybersécurité, chargés d'établir des normes d'évaluation de la sécurité pour les entreprises développant l'IA et de vérifier le risque d'utilisation abusive de l'IA.

Lors de la réunion, le conseil de l’IA a également discuté des « Lignes directrices de l’IA » qui comprennent 10 principes, appelant les entreprises nationales à placer les personnes au centre du développement ou de l’utilisation de l’IA.

Comme prévu, les « Lignes directrices sur l’IA » seront officiellement approuvées en mars 2024 et s’appliqueront aux développeurs, aux fournisseurs de services d’IA et aux utilisateurs.

Les principes des « Lignes directrices sur l’IA » s’appuient sur le « Processus d’Hiroshima sur l’IA » du Groupe des Sept (G7) pour l’élaboration de règles internationales.

Conformément au principe de l'humain, les lignes directrices appellent les entreprises à respecter les droits humains et la diversité, à prendre des mesures pour lutter contre la désinformation et à s'abstenir absolument de développer, de fournir et d'utiliser des services d'IA qui manipulent négativement la prise de décision et les émotions humaines. De plus, les lignes directrices incluent d'autres principes tels que la protection de la vie privée, l'équité, la sécurité et la transparence.

Début octobre, le Premier ministre britannique Rishi Sunak a annoncé la création du premier Institut de sécurité de l'IA au monde , chargé de tester et d'évaluer de nouvelles formes d'IA. À partir de là, les régulateurs pourront appréhender les capacités de chaque nouveau modèle et identifier tous les risques, des préjudices sociaux tels que les biais et la désinformation aux risques les plus élevés.

Peu de temps après, la secrétaire américaine au Commerce, Gina Raimondo, a annoncé que les États-Unis créeraient un Institut de sécurité de l'IA en collaboration avec l'Institut national des normes et de la technologie pour garantir la sécurité et la fiabilité de l'intelligence artificielle.

Ces derniers temps, les outils d'intelligence artificielle ont marqué une nouvelle avancée dans la vague d'investissements technologiques. Cependant, les experts soulignent que l'intelligence artificielle comporte de nombreux risques et défis, notamment en ce qui concerne le niveau de confiance accordé aux données, aux algorithmes et aux applications.

Par conséquent, pour maximiser les avantages de l’intelligence artificielle, il est important de donner au public l’assurance que cette technologie est développée et utilisée de manière responsable.

Récemment, 18 pays dont les États-Unis, le Royaume-Uni, l’Allemagne, l’Italie, la République tchèque, la Pologne, l’Australie, le Chili, Singapour… ont signé un accord pour encourager les entreprises à créer des systèmes d’intelligence artificielle sûrs dès la conception pour éviter les risques d’abus.

Il s’agit de la dernière d’une série d’initiatives lancées par les gouvernements du monde entier pour façonner le développement de l’intelligence artificielle, qui a un impact de plus en plus important sur l’industrie et la société en général.

Minh Hoa (à temps partiel)

Source: https://www.nguoiduatin.vn/nhat-ban-du-kien-thanh-lap-vien-an-toan-ai-vao-dau-nam-2024-a641927.html