Connaissez-vous bien l'IA ? Voici 7 termes à connaître absolument.

Le développement rapide de l’intelligence artificielle (IA) a suscité des inquiétudes quant au fait qu’elle se développe plus vite que les humains ne peuvent comprendre son impact.

Comprenez-vous bien quelqu'un ? Voici 7 termes à connaître (image 1). — Photo : ST

L'utilisation de l'IA générale a considérablement augmenté depuis l'émergence d'outils comme ChatGPT. Si ces outils présentent de nombreux avantages, ils peuvent aussi être utilisés à mauvais escient.

Pour gérer ce risque, les États-Unis et plusieurs autres pays ont obtenu des accords de la part de sept entreprises, dont Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, pour s’engager à adopter des pratiques sûres dans le développement de la technologie de l’IA.

L'annonce de la Maison Blanche s'accompagne d'une terminologie spécifique, parfois peu familière au commun des mortels, avec des termes comme « red teaming » et « watermarking ». Voici sept termes liés à l'IA à surveiller.

Apprentissage automatique

Cette branche de l'IA vise à entraîner les machines à effectuer une tâche spécifique avec précision en identifiant des schémas. La machine peut ensuite formuler des prédictions à partir de ces données.

Apprentissage profond

Les tâches créatives d’IA s’appuient souvent sur l’apprentissage profond, une méthode qui consiste à former des ordinateurs à l’aide de réseaux neuronaux, un ensemble d’algorithmes conçus pour imiter les neurones du cerveau humain, afin d’établir des connexions complexes entre des modèles pour générer du texte, des images ou d’autres contenus.

Étant donné que les modèles d’apprentissage profond comportent plusieurs couches de neurones, ils peuvent apprendre des modèles plus complexes que l’apprentissage automatique traditionnel.

Grand modèle de langage

Un modèle de langage à grande échelle (MLL) est entraîné à partir d'énormes quantités de données et vise à modéliser le langage ou à prédire le mot suivant dans une séquence. Les modèles de langage à grande échelle, comme ChatGPT et Google Bard, peuvent être utilisés pour des tâches telles que le résumé, la traduction et la conversation.

Algorithme

Un ensemble d'instructions ou de règles permettant aux machines de faire des prédictions, de résoudre des problèmes ou d'accomplir des tâches. Les algorithmes peuvent fournir des recommandations d'achat et contribuer à la détection des fraudes, ainsi qu'aux fonctions de chat du service client.

Biais

L'IA étant entraînée à partir de vastes ensembles de données, elle peut y intégrer des informations préjudiciables, telles que des discours haineux. Le racisme et le sexisme peuvent également apparaître dans les ensembles de données utilisés pour entraîner l'IA, donnant lieu à des contenus trompeurs.

Les entreprises d’IA ont convenu d’approfondir leurs recherches sur la manière d’éviter les préjugés et la discrimination préjudiciables dans les systèmes d’IA.

Équipe rouge

L’un des engagements pris par les entreprises auprès de la Maison Blanche est de mener des « red teaming » en interne et en externe sur les modèles et systèmes d’IA.

Le « red teaming » consiste à tester un modèle pour découvrir des vulnérabilités potentielles. Ce terme est issu d'une pratique militaire où une équipe simule les actions d'un attaquant pour élaborer des stratégies.

Cette méthode est largement utilisée pour tester les vulnérabilités de sécurité dans des systèmes tels que les plateformes de cloud computing d’entreprises comme Microsoft et Google.

Filigrane

Un filigrane permet de savoir si un son ou une image a été créé par l'IA. Les informations vérifiées peuvent inclure des informations sur l'auteur, ainsi que sur la manière et la date de création ou de modification.

Par exemple, Microsoft s'est engagé à filigraner les images créées par ses outils d'IA. Les entreprises se sont également engagées auprès de la Maison-Blanche à filigraner les images ou à enregistrer leur origine afin de les identifier comme générées par l'IA.

Les filigranes sont également couramment utilisés pour détecter les violations de propriété intellectuelle. Les filigranes des images générées par l'IA peuvent apparaître sous forme de bruit imperceptible, comme un léger changement tous les sept pixels.

Cependant, le filigrane du texte généré par l’IA peut être plus complexe et peut impliquer de modifier le modèle de mot afin qu’il puisse être identifié comme un contenu généré par l’IA.

Hoang Ton (selon Poynter)

Source