Meta vient de publier une nouvelle boîte à outils de sécurité IA open source.

Meta s'efforce de s'imposer comme un pionnier dans le développement des technologies d'IA.

Meta a lancé Purple Llama, un projet dédié à la création d'outils open source permettant aux développeurs d'évaluer et d'améliorer la fiabilité et la sécurité des modèles d'intelligence artificielle (IA) générés avant leur déploiement.

Meta a souligné la nécessité d'efforts de collaboration pour garantir la sécurité de l'IA, tout en affirmant que les défis posés par l'IA ne peuvent être relevés isolément.

L'entreprise a déclaré que l'objectif de Purple Llama est d'établir une plateforme commune pour le développement d'une IA générative plus sûre, face aux préoccupations croissantes concernant les grands modèles de langage et autres technologies d'IA.

Gareth Lindahl-Wise, directeur de la sécurité de l'information chez Ontinue, une entreprise spécialisée en cybersécurité, a qualifié Purple Llama de « mesure positive et proactive » vers une technologie d'IA plus sûre.

Le projet Purple Llama collabore avec des développeurs d'IA ; des services cloud tels qu'AWS et Google Cloud ; des entreprises de semi-conducteurs telles qu'Intel, AMD et Nvidia ; et des sociétés de logiciels, dont Microsoft.

Le premier outil publié par Purple Llama est CyberSecEval – un outil d'évaluation des risques de cybersécurité logicielle basé sur l'IA.

Elle possède un système de codage linguistique qui permet d'identifier les textes inappropriés ou nuisibles, notamment les discussions sur la violence ou les activités illégales.

Les développeurs peuvent utiliser CyberSecEval pour vérifier si leurs modèles d'IA sont susceptibles de générer du code non sécurisé ou de faciliter des cyberattaques.

Les recherches de Meta ont montré que les grands modèles de langage suggèrent souvent des vulnérabilités dans le code, soulignant l'importance des tests et des améliorations continus pour la sécurité de l'IA.

Llama Guard est un autre outil – un modèle de langage de grande envergure entraîné à identifier les propos potentiellement nuisibles ou offensants.

Les développeurs peuvent utiliser Llama Guard pour vérifier si leur modèle génère ou accepte du contenu non sécurisé, ce qui permet de filtrer les invites susceptibles d'entraîner un résultat inapproprié.

(selon IFW)

Il investit massivement dans l'IA et lance cinq nouveaux projets quantiques.

Il investira massivement dans le développement d'ordinateurs quantiques à grande échelle et dans le soutien aux nouvelles technologies, notamment en construisant Isambard, le supercalculateur d'IA le plus puissant du pays.

La ceinture GUIDi AI remplace les cannes pour les personnes malvoyantes.

Grâce à l'application de la technologie de l'IA, cette ceinture de haute technologie deviendra un compagnon pour les personnes malvoyantes, remplaçant les cannes encombrantes.

L'alliance open source d'IA regroupant les géants de la technologie sera en concurrence avec OpenAI.

Meta, IBM, Intel, Sony, Dell et d'autres entreprises technologiques ont récemment annoncé la création de l'Open Source AI Alliance afin de développer une technologie responsable, axée sur les mesures de sécurité.

Une approche unique du développement des chatbots IA en Chine.

Profitant du marché inexploité par OpenAI et Google, les entreprises technologiques chinoises engrangent des profits considérables grâce à la tendance à la personnalisation dans le développement des chatbots IA.

Source