Connaissez-vous bien l'IA ? Voici 7 termes essentiels à connaître.

Công Luận•12/08/2023

Le développement rapide de l'intelligence artificielle (IA) a suscité des inquiétudes quant à son évolution plus rapide que la capacité des humains à en comprendre l'impact.

Comprenez-vous bien chaque terme ? Voici 7 termes à connaître (Figure 1). — Photo : ST

L'utilisation de l'IA en général a considérablement augmenté depuis l'apparition d'outils comme ChatGPT. Bien que ces outils offrent de nombreux avantages, ils peuvent aussi être utilisés à mauvais escient.

Pour gérer ce risque, les États-Unis et de nombreux autres pays ont obtenu des accords de sept entreprises, dont Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, afin qu'elles s'engagent à respecter des pratiques sûres dans le développement des technologies d'IA.

L’annonce de la Maison-Blanche incluait son propre ensemble de termes qui peuvent être inconnus du grand public, avec des mots comme « équipe rouge » et « tatouage numérique ». Voici sept termes importants liés à l’IA.

apprentissage automatique

Cette branche de l'IA vise à entraîner les machines à accomplir une tâche spécifique avec précision en identifiant des schémas. La machine peut ensuite faire des prédictions à partir de ces données.

Apprentissage profond

Les tâches créatives en IA s'appuient souvent sur l'apprentissage profond, une méthode qui consiste à entraîner les ordinateurs à utiliser des réseaux neuronaux — un ensemble d'algorithmes conçus pour imiter les neurones du cerveau humain — afin de créer des connexions complexes entre les modèles pour générer du texte, des images ou d'autres contenus.

Les modèles d'apprentissage profond, grâce à leurs multiples couches de neurones, peuvent apprendre des schémas plus complexes que l'apprentissage automatique traditionnel.

Modèle de langage étendu

Un modèle de langage à grande échelle (LLM) est entraîné sur d'énormes quantités de données et vise à modéliser le langage ou à prédire le mot suivant dans une séquence. Les modèles de langage à grande échelle, tels que ChatGPT et Google Bard, peuvent être utilisés pour des tâches comme la synthèse vocale, la traduction et la conversation.

Algorithme

Un ensemble d'instructions ou de règles permettant aux machines d'effectuer des prédictions, de résoudre des problèmes ou d'accomplir des tâches. Les algorithmes peuvent fournir des recommandations d'achat, aider à détecter les fraudes et assurer des fonctions de chat pour le service client.

Biais

L'IA étant entraînée à l'aide de vastes ensembles de données, elle peut y intégrer des informations nuisibles, telles que des discours haineux. Le racisme et le sexisme peuvent également apparaître dans les ensembles de données utilisés pour son entraînement, ce qui peut conduire à des contenus trompeurs.

Les entreprises spécialisées en IA ont accepté de mener des recherches supplémentaires sur la manière d'éviter les biais et les discriminations néfastes dans les systèmes d'IA.

Équipe rouge

L'un des engagements pris par les entreprises auprès de la Maison Blanche est de mettre en œuvre des « équipes rouges » à l'intérieur et à l'extérieur des modèles et systèmes d'IA.

L'expression « équipe rouge » désigne une équipe qui teste un modèle afin de détecter les menaces potentielles. Ce terme provient d'une pratique militaire où une équipe simule les actions d'un attaquant pour élaborer des stratégies.

Cette méthode est largement utilisée pour tester les vulnérabilités de sécurité des systèmes tels que les plateformes de cloud computing d'entreprises comme Microsoft et Google.

Tatouage numérique

Un filigrane permet de déterminer si un contenu audio ou visuel a été créé par une intelligence artificielle. Les informations utilisées pour la vérification peuvent inclure des renseignements sur le créateur, ainsi que sur la manière et la date de création ou de modification.

Par exemple, Microsoft s'est engagé à apposer un filigrane sur les images créées par ses outils d'IA. Des entreprises se sont également engagées auprès de la Maison Blanche à ajouter un filigrane aux images ou à enregistrer leur origine afin de les identifier comme des images générées par l'IA.

Les filigranes sont également couramment utilisés pour détecter les violations de propriété intellectuelle. Sur les images générées par IA, ils peuvent se présenter sous forme de bruit imperceptible, comme une légère modification tous les sept pixels.

Cependant, la création de filigranes pour du texte généré par l'IA peut s'avérer plus complexe et peut impliquer l'ajustement des modèles de mots afin qu'il puisse être identifié comme contenu généré par l'IA.

Hoang Ton (selon Poynter)

Source