Verhaftet wegen Nutzung von ChatGPT zur Verbreitung gefälschter Nachrichten

Laut SCMP hat die Polizei von Gansu einen Mann namens Hong verhaftet, weil er angeblich mithilfe von ChatGPT falsche Informationen über einen Zugunfall erfunden haben soll, bei dem neun Menschen ums Leben kamen.

Nach der Entdeckung der Falschmeldung am 25. April fanden die Behörden auf der Microblogging-Plattform Baijiahao mehrere Versionen des Unfalls, die von 25 verschiedenen Accounts gepostet und über 15.000 Mal aufgerufen wurden. Hong benutzte ChatGPT, um Inhalt und Ort des Unfalls zu bearbeiten und so das Duplikatsprüfungssystem von Baijiahao zu umgehen.

Die Polizei verhaftete Hong aufgrund eines im Januar in China eingeführten „Deep Synthesis“-Gesetzes. „Deep Synthesis“ umfasst die Verwendung von KI (künstlicher Intelligenz) zur Generierung von Texten, Bildern, Videos und anderen Medien. Das Gesetz verbietet den Einsatz von KI zur Verbreitung von Fake News.

Obwohl ChatGPT in China verboten ist, verwenden viele Leute immer noch VPNs, um auf diesen Chatbot zuzugreifen.

Durch die Berichte konnte die Polizei ein Unternehmen ausfindig machen, das Hong gehörte. Er gab zu, ChatGPT genutzt zu haben, um Fake News zu erstellen und durch Traffic Geld zu verdienen. Hong wurde wegen „Störung der öffentlichen Ordnung“ angeklagt und muss mit einer Höchststrafe von fünf Jahren Gefängnis rechnen. In besonders schweren Fällen kann die Anklage jedoch mit bis zu zehn Jahren Gefängnis geahndet werden. 2013 erweiterte die chinesische Regierung den Geltungsbereich auf Personen, die im Internet falsche Gerüchte posteten und verbreiteten.

Mit dem Wachstum von ChatGPT äußerte China Bedenken, dass die unregulierte Entwicklung und Nutzung der „Deep-Synthese-Technologie“ zu kriminellen Aktivitäten wie Online-Betrug oder Verleumdung führen könnte. Im Februar warnte die chinesische Polizei die Bürger vor den von ChatGPT verbreiteten „Gerüchten“.

Die chinesischen Behörden versuchen, der Technologie immer einen Schritt voraus zu sein, indem sie Gesetze zur Regulierung von KI und zur Einschränkung des Einsatzes von Deepfakes erlassen. Die Verhaftungen sind ein Versuch der chinesischen Behörden, den Einsatz von KI zu regulieren und zu kontrollieren, während die Technologie immer fortschrittlicher wird.

Quellenlink: https://thanhnien.vn/bi-bat-vi-dung-chatgpt-lan-truyen-tin-gia-185230511212326681.htm