La police du district de Kongtong a confirmé aujourd'hui (8 mai) avoir arrêté un suspect de sexe masculin nommé Hong, qui a utilisé l'intelligence artificielle (IA) d'OpenAI pour créer une histoire sur un grave accident de train qui a tué 9 personnes le 25 avril.
Le suspect a ensuite publié cette histoire « sensationnelle » sur le réseau social Baijiahao pour « attirer l'attention ». Il est à noter que Hong a publié la même fausse information sur 20 comptes différents.
L'histoire, entièrement « dessinée » par l'IA, a depuis été vue plus de 15 000 fois.
Il s'agit de la première arrestation en Chine liée à l'utilisation de ChatGPT pour créer de fausses nouvelles et les diffuser sur les réseaux sociaux.
L'arrestation de Hong intervient dans le cadre d'une nouvelle réglementation chinoise exigeant que les vidéos et les images créées à l'aide de deepfakes soient clairement étiquetées pour éviter d'induire le public en erreur, qui entrera en vigueur en janvier 2023.
Cela survient alors que les autorités chinoises ont à plusieurs reprises averti les gens ces derniers mois de faire attention à ChatGPT car il pourrait diffuser des informations fausses ou diffamatoires.
L'utilisation de ChatGPT pour « inventer des histoires » et les publier en ligne a conduit un citoyen chinois à encourir jusqu'à 10 ans de prison. Photo : openaimaster
ChatGPT, développé par l'entreprise américaine OpenAI, a conquis le monde entier depuis son lancement fin novembre dernier. Le déploiement de cette super IA n'est actuellement pas autorisé en Chine, mais les utilisateurs peuvent toujours y accéder s'ils disposent d'une connexion VPN (réseau privé virtuel) fiable.
La police provinciale du Gansu a déclaré avoir arrêté Hong pour « diffusion de fausses informations en ligne, causant des impacts négatifs sur la société ».
En Chine, le crime mentionné ci-dessus est généralement passible d'une peine maximale de 5 ans de prison, mais dans les cas de conséquences « particulièrement graves », le délinquant peut être emprisonné pendant 10 ans, plus des peines supplémentaires.
Source
Comment (0)