ChatGPTを使って偽ニュースを拡散したとして逮捕

[広告_1]

SCMPによると、甘粛省警察は、9人が死亡した列車事故に関する偽情報をChatGPTで捏造した疑いでホンという男を逮捕した。

4月25日に偽ニュースが発覚した後、当局はマイクロブログプラットフォーム「百家号」上で25の異なるアカウントが事故に関する複数のバージョンを投稿していることを発見した。これらの投稿は1万5000回以上閲覧されていた。洪氏はChatGPTを利用して事故の内容と場所を編集し、百家号の重複チェックシステムを回避した。

警察は、中国が1月に導入した「ディープシンセシス」法に基づき、ホン氏を逮捕した。「ディープシンセシス」とは、AI（人工知能）を用いてテキスト、画像、動画、その他のメディアを生成することを指す。同法は、AIを用いてフェイクニュースを拡散することを禁じている。

ChatGPT は中国では禁止されていますが、それでも多くの人が VPN を使用してこのチャットボットにアクセスしています。

警察はこれらの報告を通じて、ホン氏が所有する会社を追跡することができました。ホン氏は、ChatGPTを利用して偽ニュースを作成し、トラフィックで金儲けをしていたことを認めました。ホン氏は「公共秩序を乱す」罪で起訴され、最高5年の懲役刑が科せられる可能性があります。しかし、特に深刻なケースでは、最長10年の懲役刑が科される可能性があります。2013年、中国政府はこの刑罰の対象範囲を拡大し、オンラインで虚偽の噂を投稿・拡散する者も対象に加えました。

ChatGPTの拡大に伴い、中国は「ディープシンセシス技術」の規制されていない開発と利用が、オンライン詐欺や名誉毀損といった犯罪行為につながる可能性があると懸念を表明している。2月には、中国警察が国民に対し、ChatGPTによって生み出される「噂」に注意するよう警告した。

中国当局は、AIを規制し、ディープフェイクの使用を制限する法律を制定することで、この技術の優位性を維持しようと努めてきました。今回の逮捕は、AI技術が高度化する中で、中国当局がAIの使用を規制・管理しようとする取り組みを象徴しています。

[広告2]
ソースリンク