Google : Le logiciel d'intelligence artificielle Gemini est utilisé à mauvais escient pour créer de faux contenus terroristes.

Dans une déclaration envoyée aux autorités australiennes, Google a indiqué avoir reçu au cours de l'année écoulée 258 plaintes dans le monde concernant l'utilisation de son logiciel d'intelligence artificielle (IA), Gemini, pour créer de faux contenus terroristes ou extrémistes violents ; et 86 signalements d'utilisateurs avertissant que Gemini est utilisé à mauvais escient pour produire du contenu pédopornographique.

La Commission australienne de sécurité électronique (ESSC) a estimé que le rapport de Google offre un aperçu inédit de la manière dont les utilisateurs peuvent exploiter la technologie pour créer du contenu malveillant et illégal.

La commissaire Julie Inman Grant de la Commission de la cybersécurité a déclaré que cela souligne l'importance pour les entreprises développant des produits d'IA de concevoir et de tester l'efficacité des mesures de protection afin d'empêcher la production de contenu nuisible et falsifié.

Google a utilisé une fonction de correspondance – un système automatisé qui compare les images nouvellement téléchargées avec des images connues – pour identifier et supprimer les contenus pédopornographiques créés par Gemini. Cependant, la Commission australienne de la sécurité électronique a déclaré que Google n'avait pas utilisé ce même système pour supprimer les contenus terroristes ou extrémistes violents créés par Gemini.

En vertu de la législation australienne actuelle, les entreprises technologiques doivent périodiquement fournir à la Commission de la sécurité électronique des informations sur leurs efforts de réduction des risques, sous peine de sanctions.

Plus récemment, les entreprises ont été tenues de communiquer des informations à cette commission pour la période d'avril 2023 à février 2024. La Commission australienne de sécurité électronique a infligé des amendes à Telegram et à Twitter – rebaptisé depuis X – pour des carences dans leurs rapports.

X a déjà fait appel de son amende de 610 500 AUD (382 000 USD), mais la plateforme de médias sociaux devrait le faire à nouveau. Telegram prévoit également de faire appel de l'amende infligée à la chaîne.

Depuis que le chatbot « sensationnel » ChatGPT de la société américaine OpenAI a fait sensation auprès du public fin 2022, les organismes de réglementation du monde entier ont appelé à des mesures plus efficaces pour garantir que les acteurs malveillants n'utilisent pas l'IA à mauvais escient pour inciter au terrorisme, commettre des fraudes, créer du contenu pornographique falsifié et se livrer à d'autres activités abusives.

Source : https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html