Les chatbots IA présentent un risque pour les enfants, et il faut réglementer les développeurs.

Le Premier ministre japonais Fumio Kishida a déclaré qu'il proposerait au groupe du G7 un plan visant à réglementer les développeurs d'intelligence artificielle (IA).

L’objectif de ces règles est d’empêcher la propagation de fausses informations, en sensibilisant le public à faire la distinction entre les images et les informations produites par l’IA et celles qui ne sont pas générées par des algorithmes.

Les lignes directrices devraient être proposées dès cet automne, lors d’une réunion virtuelle des sept plus grandes économies du monde (G7).

Snap Inc. a été accusé de ne pas avoir évalué de manière adéquate et précise les risques liés à la confidentialité des données des enfants lors du lancement d'un chatbot IA.

Le rapport indique que le Japon est préoccupé par les images et informations complexes générées par l'IA, qui pourraient semer la confusion dans l'opinion publique et menacer la stabilité économique.

Dans le même temps, l'organisme britannique de surveillance des données a déclaré que les chatbots IA pourraient présenter des risques pour la vie privée des enfants, en l'occurrence le chatbot « My AI » développé par la société technologique américaine Snapchat.

Les autorités estiment que Snapchat n'a peut-être pas correctement évalué les risques pour la vie privée des enfants posés par le chatbot IA lancé en avril. Le Bureau du Commissaire à l'information (ICO) a déclaré que si l'entreprise américaine ne répondait pas adéquatement aux préoccupations du régulateur, elle envisagerait d'interdire l'application IA dans tout le pays.

« Les premières conclusions de l'enquête suggèrent que Snap n'a pas évalué de manière adéquate et précise les risques pour la vie privée des enfants et des autres utilisateurs avant de lancer l'application d'IA », a déclaré l'ICO.

Toutefois, la déclaration du régulateur ne signifie pas que Snapchat, une application de messagerie largement utilisée par les jeunes au Royaume-Uni, a enfreint les lois sur la protection des données.

Snap a indiqué qu'elle examinait l'avis de l'ICO et s'engageait à protéger la vie privée des utilisateurs. « Notre IA a fait l'objet d'un examen rigoureux de la confidentialité et des aspects juridiques avant d'être rendue publique », a déclaré l'entreprise technologique américaine. « Nous continuerons à collaborer de manière constructive avec l'ICO pour répondre aux préoccupations concernant nos processus d'évaluation des risques. »

L'ICO enquête sur la manière dont « My AI » a traité les données personnelles d'environ 21 millions d'utilisateurs de Snapchat au Royaume-Uni, y compris des enfants âgés de 13 à 17 ans.

L'application, développée par Snapchat, est alimentée par ChatGPT d'OpenAI, l'exemple le plus célèbre d'IA générative que les décideurs politiques du monde entier cherchent à réglementer en raison de problèmes de confidentialité et de sécurité.

Les réseaux sociaux, dont Snapchat, exigent que les utilisateurs soient âgés de 13 ans ou plus, mais n’ont pas toujours réussi à empêcher les mineurs d’utiliser leurs plateformes.

Auparavant, en août 2023, Reuters avait rapporté que les régulateurs recueillaient des informations pour déterminer si l'application de messagerie supprimait efficacement les utilisateurs mineurs de sa plateforme.

(Selon Bloomberg, Reuters)

Meta utilise les données des utilisateurs de Facebook et d'Instagram pour former des chatbots IA

Meta a déclaré qu'elle utilisait les publications publiques des utilisateurs sur Facebook et Instagram pour former son nouvel assistant virtuel d'intelligence artificielle (IA), mais excluait le contenu partagé uniquement avec la famille et les amis.

Microsoft lance Copilot, l'assistant virtuel chatbot IA

L'assistant virtuel Microsoft Copilot sera disponible sur Windows 11, Microsoft 365, le navigateur Edge et le moteur de recherche Bing.

Trois nouvelles fonctionnalités arrivent sur Bard, le chatbot IA de Google

La vérification de l'exactitude des réponses, l'importation des données utilisateur dans les applications et l'invitation d'autres personnes à discuter avec des chatbots sont de nouvelles fonctionnalités à venir sur Google Bard.

Source