Des inquiétudes se font jour quant au fait que le chatbot Grok puisse alimenter la propagation de fausses informations sur Internet.

Grok, le chatbot d'Elon Musk, permet désormais aux utilisateurs de créer des images générées par IA à partir de texte et de les publier sur X, y compris de fausses images de personnalités politiques telles que l'ancien président américain Donald Trump, la vice-présidente américaine Kamala Harris...

Contrairement à d'autres outils de capture d'images par IA courants, Grok, développé par Musk, semble être soumis à moins de réglementations. Par exemple, lors des tests effectués par CNN , Grok a facilement généré de fausses images de personnalités politiques, induisant ainsi les électeurs en erreur.

Image d'Elon Musk créée par le chatbot Grok. (Source : CNN)

Certains utilisateurs de X ont même publié des images créées par Grok, montrant des célébrités se droguant, des personnages de dessins animés commettant un meurtre et sexualisant des femmes en bikini.

Selon CNN , Grok alimente encore davantage les craintes que l'IA puisse engendrer une vague de désinformation sur Internet, notamment à l'approche de l'élection présidentielle américaine.

Des législateurs, des groupes de militants sociaux et des dirigeants du secteur technologique ont tiré la sonnette d'alarme, avertissant que le mauvais usage de tels outils pourrait semer la confusion et le chaos chez les électeurs.

De nombreuses entreprises leaders mondiales en IA ont mis en place des politiques visant à empêcher que les outils de génération d'images basés sur l'IA ne soient utilisés pour créer de la désinformation politique, bien que des chercheurs aient constaté que les utilisateurs trouvent parfois encore des moyens de contourner ces politiques.

Plusieurs entreprises, telles qu'OpenAI, Meta et Microsoft, utilisent des technologies ou des étiquettes pour aider les utilisateurs à identifier les images créées à l'aide de leur IA.

Les plateformes de médias sociaux, notamment YouTube, TikTok, Instagram et Facebook, étiquettent également le contenu généré par l'IA dans les flux des utilisateurs, en utilisant une technologie qui leur permet soit de le détecter elles-mêmes, soit d'inciter les utilisateurs à l'identifier lorsqu'ils publient un tel contenu.

Le 16 août, l'IA a semblé imposer certaines restrictions à Grok. L'outil refuse désormais de créer des images de candidats politiques ou de personnages de dessins animés populaires se livrant à des actes violents.

Source : https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-บน-internet-283068.html