Google : le logiciel d'IA Gemini utilisé à mauvais escient pour créer de faux contenus terroristes

Dans une déclaration aux autorités australiennes, Google a déclaré avoir reçu 258 plaintes dans le monde au cours de l'année écoulée selon lesquelles son logiciel d'intelligence artificielle (IA) Gemini avait été utilisé pour créer de faux contenus terroristes ou extrémistes violents ; et 86 rapports d'utilisateurs avertissant que Gemini était utilisé à mauvais escient pour produire du contenu pédopornographique.

La Commission australienne de sécurité électronique a déclaré que le rapport de Google fournissait le premier aperçu mondial sur la manière dont les utilisateurs peuvent exploiter la technologie pour créer du contenu nuisible et illégal.

La commissaire à la sécurité électronique, Julie Inman Grant, a déclaré que cela souligne l'importance pour les entreprises qui développent des produits d'IA de mettre en place et de tester l'efficacité des mesures de protection pour empêcher la production de ces types de contenus nuisibles et faux.

Google a utilisé le matchmaking – un système automatisé qui associe les images récemment téléchargées à des images connues – pour identifier et supprimer les contenus pédopornographiques créés par Gemini. Cependant, la Commission australienne de sécurité électronique a déclaré que Google n'avait pas utilisé ce même système pour supprimer les contenus terroristes ou extrémistes violents créés par Gemini.

En vertu de la législation australienne actuelle, les entreprises technologiques doivent fournir périodiquement à la Commission de sécurité électronique des informations sur leurs efforts visant à réduire les dommages, sous peine de sanctions.

Plus récemment, les entreprises doivent communiquer des informations à la commission entre avril 2023 et février 2024. La Commission australienne de sécurité électronique a infligé une amende à Telegram et Twitter — rebaptisé plus tard X — pour des lacunes dans leurs rapports.

X a déjà perdu son appel contre l'amende de 610 500 dollars australiens (382 000 dollars américains), mais le réseau social prévoit de faire appel à nouveau. Telegram prévoit également de faire appel de l'amende prononcée contre la chaîne.

Depuis que le populaire chatbot ChatGPT d'OpenAI (USA) a explosé dans la conscience publique fin 2022, les régulateurs du monde entier ont appelé à des mesures plus efficaces pour garantir que les mauvais acteurs n'abusent pas de l'IA pour inciter au terrorisme, commettre des fraudes, créer de la fausse pornographie et d'autres comportements abusifs.

Source : https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html