L'IA améliorée aide à détecter les anomalies

Lors du récent événement Google I/O, Google a lancé Gemini 1.5 - un modèle d'intelligence artificielle (IA) doté de nombreuses nouvelles fonctionnalités, notamment la possibilité d'analyser du code, du texte, des enregistrements audio et des vidéos avec des durées plus longues que la version précédente.

Détecter les mots suspects

Gemini 1.5 Pro devrait notamment être intégré prochainement à Gmail et Google Docs, devenant ainsi un outil polyvalent dans Workspace, permettant aux utilisateurs de collecter toutes les informations de Drive. Gemini Live, un autre modèle d'IA, permet aux utilisateurs d'interagir avec leurs smartphones grâce à des voix naturelles. Lors de cet événement, Google a attiré l'attention en proposant un modèle d'IA appelé Gemini Nano sur les smartphones Android, capable de détecter les mots suspects dans les conversations afin d'alerter les utilisateurs en cas d'appels frauduleux. Gemini Nano est actuellement intégré au Pixel 8 Pro et à la série Galaxy S24.

Partageant leurs opinions sur les réseaux sociaux, les utilisateurs s'attendent à ce que Gemini Nano gagne progressivement en popularité sur les appareils Android. Cependant, certains craignent que les données d'appel soient divulguées si des autorisations sont accordées à Google. À ce sujet, Google a déclaré que les données d'appel sont protégées et stockées uniquement sur le téléphone de l'utilisateur. Les utilisateurs peuvent personnaliser la fonctionnalité pour activer ou désactiver l'alerte d'appel frauduleux. Gemini Nano fonctionne de manière autonome, ne se connecte pas à Internet et n'est pas accessible à Google ou à des tiers.

OpenAI a également annoncé un nouveau modèle d'IA appelé GPT-4o, qui multiplie par cinq la puissance de ChatGPT. Grâce à l'optimisation des algorithmes et des méthodes d'entraînement, GPT-4o fournira des réponses plus précises et garantira une cohérence élevée lors des longues conversations. En minimisant les erreurs courantes et en améliorant la compréhension du contexte, le modèle répondra plus précisément aux questions complexes. Open AI a indiqué que l'interface GPT-4o garantit la sécurité des interactions et des informations personnelles entre les utilisateurs et l'IA. Meta, la société mère de Facebook et Instagram, a annoncé l'arrêt du développement de la plateforme professionnelle Workplace pour se concentrer sur le développement de produits d'IA et de l'univers virtuel Metaverse. Selon le monde technologique, les prochains projets d'IA de Meta amélioreront l'expérience utilisateur grâce à une plateforme publicitaire personnalisée, des recommandations de contenu adaptées, une traduction en temps réel dans de nombreuses langues… Parallèlement, des politiques de confidentialité seront élaborées pour protéger les informations des utilisateurs.

Lors d'un récent événement, Microsoft a présenté une nouvelle fonctionnalité appelée « Recall », baptisée AI Explorer. Cet outil d'IA sera intégré à l'ordinateur Copilot Plus et permettra aux utilisateurs de suivre toutes leurs activités, de la navigation web au chat vocal, créant ainsi un historique stocké sur l'ordinateur que les utilisateurs pourront consulter pour se souvenir de leurs activités précédentes. De plus, Recall fournit des données sous forme de chronologie visuelle, permettant aux utilisateurs de parcourir et d'explorer facilement toutes les activités de l'ordinateur. La fonctionnalité Live Captions associée permet aux utilisateurs de rechercher des réunions et des vidéos en ligne, de transcrire et de traduire facilement des discours. Microsoft promet que Recall fonctionnera de manière privée sur l'appareil afin de sécuriser les données des utilisateurs. Les utilisateurs peuvent mettre en pause, arrêter ou supprimer le contenu capturé, ou choisir d'exclure des applications ou des sites web spécifiques.

Gemini 1.5pro répond aux questions des utilisateurs sous forme de diagrammes en quelques secondes Photo AI : Le Tinh

Rappeler, avertir les utilisateurs

Selon l'expert en sécurité Pham Dinh Thang, le processus d'interaction avec les utilisateurs a accru le niveau d'intelligence de l'IA. Par conséquent, le modèle d'IA évoluera constamment et deviendra plus simple, mais cela augmentera également les risques pour les utilisateurs, tels que la falsification faciale (deepfake) et la difficulté de détection de la voix en raison de sa forte authenticité.

Par conséquent, les entreprises technologiques comme Google ou ChatGPT doivent se concentrer sur la protection des données de leurs utilisateurs. « On ne peut pas se fier entièrement aux engagements des entreprises technologiques en matière de sécurité des données. Les utilisateurs doivent d'abord se protéger. Évitez de consulter des sites web d'IA inconnus, car le taux de logiciels malveillants est très élevé. N'accédez pas à des informations qui ne vous concernent pas. Parallèlement, tenez-vous régulièrement informés des fraudes liées à l'IA », recommande M. Thang. De son côté, M. Huynh Trong Thua, expert en sécurité informatique, a déclaré que les utilisateurs ne devraient pas trop se soucier de leurs données lorsqu'ils utilisent des produits d'IA, car les données personnelles collectées par les entreprises sont analysées afin de fournir des avertissements et des mots-clés pertinents pour personnaliser l'expérience. « Le taux de fraude diminuera considérablement avec l'adoption de nouveaux modèles par Google et OpenAI. L'avertissement de fraude est un rappel fort qui incitera les utilisateurs à se méfier des arnaqueurs », a conclu M. Thua.

Selon les experts en technologie, les entreprises technologiques ont tendance à utiliser un chiffrement plus moderne pour protéger les données des utilisateurs. Parallèlement, grâce aux versions améliorées, les utilisateurs bénéficient d'un meilleur contrôle sur leurs données personnelles, notamment la possibilité de gérer, de modifier et de supprimer des données en acceptant ou en refusant que la plateforme les utilise.

Selon les experts, face aux inquiétudes concernant l'utilisation frauduleuse des outils d'IA, les régulateurs doivent envisager avec soin l'élaboration de politiques et de mécanismes de contrôle et de gestion flexibles pour leur exploitation. Cela créera les conditions d'un développement durable et responsable des applications d'IA.

Source : https://nld.com.vn/ai-nang-cap-giup-phat-hien-bat-thuong-196240521203710228.htm