Arrêté pour avoir utilisé ChatGPT pour diffuser de fausses nouvelles

Selon le SCMP , la police du Gansu a arrêté un homme nommé Hong pour avoir prétendument utilisé ChatGPT pour fabriquer de fausses informations sur un accident de train qui a tué neuf personnes.

Après avoir découvert la fausse information le 25 avril, les autorités ont découvert plusieurs versions de l'accident, publiées par 25 comptes distincts sur la plateforme de microblogging Baijiahao, qui avaient été consultées plus de 15 000 fois. Hong a utilisé ChatGPT pour modifier le contenu et le lieu de l'accident afin de contourner le système de vérification des doublons de Baijiahao.

La police a arrêté Hong en vertu d'une loi sur la « synthèse profonde » introduite par la Chine en janvier. Cette « synthèse profonde » comprend l'utilisation de l'IA (intelligence artificielle) pour générer du texte, des images, des vidéos ou d'autres médias. La loi interdit l'utilisation de l'IA pour diffuser de fausses informations.

Même si ChatGPT est interdit en Chine, de nombreuses personnes utilisent encore des VPN pour accéder à ce chatbot.

Grâce à ces signalements, la police a pu retrouver une entreprise appartenant à Hong. Ce dernier a admis avoir utilisé ChatGPT pour créer de fausses informations et gagner de l'argent grâce au trafic. Hong a été inculpé de « trouble à l'ordre public » et encourt une peine maximale de cinq ans de prison. Toutefois, dans les cas particulièrement graves, cette accusation peut entraîner une peine allant jusqu'à dix ans. En 2013, le gouvernement chinois a élargi son champ d'application aux personnes publiant et propageant de fausses rumeurs en ligne.

Avec le développement de ChatGPT, la Chine s'inquiète du développement et de l'utilisation non réglementés de la « technologie de synthèse profonde » qui pourraient conduire à des activités criminelles telles que la fraude en ligne ou la diffamation. En février, la police chinoise a mis en garde les citoyens contre les « rumeurs » générées par ChatGPT.

Les autorités chinoises ont cherché à conserver une longueur d'avance sur cette technologie en élaborant des lois visant à encadrer l'IA et à restreindre l'utilisation des deepfakes. Ces arrestations témoignent de la volonté des autorités chinoises de réglementer et de contrôler l'utilisation de l'IA à mesure que cette technologie progresse.

Lien source: https://thanhnien.vn/bi-bat-vi-dung-chatgpt-lan-truyen-tin-gia-185230511212326681.htm