Hanoi-Konvention: Experten schlagen „digitale Immunität“ gegen KI-Herausforderungen vor

Oberstleutnant Dr. Dao Trung Hieu, Kriminologe, sagte, die Entwicklung künstlicher Intelligenz (KI) habe die Art und Weise, wie Menschen Informationen erstellen, empfangen und überprüfen, grundlegend verändert. Technologien wie Deepfake, synthetische Stimmen oder künstliche Bilder ließen die Grenze zwischen echt und falsch wie nie zuvor verschwimmen.

Oberstleutnant, PhD, Kriminologieexperte Dao Trung Hieu. Foto: NVCC.

Laut Europol-Statistiken (2024) sind heute etwa 90 % der Online-Inhalte auf verschiedenen Ebenen durch KI-Eingriffe geschützt, wobei 15 % Anzeichen einer vorsätzlichen Fälschung aufweisen.

In Vietnam hat das Ministerium für öffentliche Sicherheit eine Reihe von Kriminalfällen registriert, bei denen KI eingesetzt wurde, um sich als Verwandte, Bankangestellte oder staatliche Stellen auszugeben und sich so Eigentum anzueignen. In einigen Fällen kam es zu Schäden in Höhe von mehreren zehn Milliarden Dong.

Beunruhigend ist nicht nur der materielle Schaden, sondern auch die Erosion des sozialen Vertrauens, der Grundlage aller menschlichen Beziehungen. Wenn die Wahrheit wiederhergestellt werden kann, ist das Vertrauen, die Grundlage aller sozialen Beziehungen, zum ersten Angriffsziel geworden.

„Bei den oben genannten Phänomenen handelt es sich nicht einfach um eine Transformation der kriminellen Werkzeuge, sondern um eine Neugestaltung des Raums kriminellen Verhaltens mit völlig neuen Merkmalen: immateriell, grenzüberschreitend, anonym und selbstlernend“, sagte Oberst Dao Trung Hieu.

Die Transformation krimineller Verhaltensstrukturen im KI-Zeitalter

Oberstleutnant Dao Trung Hieu sagte, dass Verbrechen im KI-Zeitalter nicht mehr durch den physischen Raum begrenzt seien. Kriminelle Handlungen würden durch Datenmodelle, Algorithmen und automatisierte Generierungssysteme ausgeführt, die es Einzelpersonen oder Organisationen ermöglichten, die Echtheit aller Arten von Informationen vorzutäuschen.

Während bei traditionellen Verbrechen physische Spuren (Beweise, Tatorte, Zeugen) die Hauptgrundlage bilden, sind bei Hightech-Verbrechen digitale Spuren der Schlüssel. KI verhilft Kriminellen zu zwei gefährlichen Fähigkeiten: synthetische Realität, die den Empfänger an etwas glauben lässt, das nicht existiert, und Attributionserosion, die es schwierig macht, den Ursprung des Verhaltens zu lokalisieren.

Aus kriminologischer Sicht lässt sich eine Veränderung der Struktur der vier Tatbestandsmerkmale feststellen:

Erstens ist das Subjekt nicht mehr ein einzelnes Individuum, sondern kann ein automatisiertes System oder eine Gruppe von Menschen sein, die es fernsteuern.

Zweitens handelt es sich bei dem verletzten Objekt nicht nur um Eigentum, Ehre oder Daten, sondern auch um soziales Vertrauen – einen immateriellen Wert, aber von grundlegender Bedeutung;

Drittens sind die Mittel zur Begehung von Verbrechen programmiert, selbstlernend, schwer zu kontrollieren und können unbegrenzt reproduziert werden.

Viertens beschränken sich die sozialen Folgen nicht auf wirtschaftliche Schäden, sondern erstrecken sich auch auf Psychologie, Moral und nationale Sicherheit.

„Somit unterstützt künstliche Intelligenz den Menschen nicht nur bei Kreativität und Produktion, sondern strukturiert auch abweichendes Verhalten um, wodurch das Konzept der „digitalen Kriminologie“ zu einer neuen Forschungsrichtung der modernen Kriminalwissenschaft wird“, sagte Herr Hieu.

Übergang von der traditionellen Untersuchung zur Untersuchung im Datenraum

Herr Hieu sagte, dass das Aufkommen KI-basierter Verbrechen Ermittlungsbehörden dazu zwinge, ihre Arbeitsmodelle zu erneuern. Anstatt nachträglich zu ermitteln, sei es notwendig, Daten parallel zu untersuchen und den Informationsfluss während des Geschehens zu sammeln und zu analysieren.

Es werden Techniken wie die KI-Spurenanalyse erforscht, die es ermöglichen, spezifische Merkmale jedes generativen Modells abzurufen, ähnlich wie „digitale Fingerabdrücke“ in der digitalen Forensik.

In Vietnam haben sich Fachabteilungen des Ministeriums für öffentliche Sicherheit mit Technologieunternehmen abgestimmt, um eine Datenbank mit von KI erstellten Sprach-, Gesichts- und Videoerkennungsbeispielen aufzubauen.

Darüber hinaus muss auch die rechtliche Infrastruktur verbessert werden. Die Studien zur Änderung des Strafgesetzbuchs müssen den Straftatbestand der „Verwendung künstlicher Intelligenz zur Begehung von Straftaten“ aufnehmen. Gleichzeitig müssen spezifische Regelungen zur Verantwortung der Eigentümer und Betreiber von KI-Systemen geschaffen werden.

Wichtiger ist es, von der Tätersuche zu einer proaktiven Präventionsmentalität überzugehen. In einer Zeit, in der sich ein gefälschtes Video schneller verbreiten kann als eine offizielle Ankündigung, ist die Fähigkeit zur schnellen Reaktion und Koordination aller Beteiligten – Staat, Unternehmen und Gesellschaft – ein entscheidender Faktor.

Digitale Immunität, „Antikörper“ im KI-Zeitalter

Oberstleutnant Dr. Dao Trung Hieu betonte das Konzept der „digitalen Immunität“. Damit ist die Fähigkeit der Gesellschaft gemeint, gefälschte Informationen selbst zu erkennen und darauf zu reagieren. Um digitale Immunität aufzubauen, sei es seiner Ansicht nach notwendig, drei Lösungsgruppen zusammenzuführen.

Die Unterzeichnungszeremonie des Übereinkommens der Vereinten Nationen gegen Computerkriminalität fand am 25. Oktober in Hanoi statt. Foto: Regierung.

Erstens: Schaffen Sie einen flexiblen und entwicklungsfähigen Rechtskorridor, der ein Gleichgewicht zwischen Kontrolle und Innovation gewährleistet. Gesetze sollten KI nicht „einrahmen“, sondern flexibel sein, um sich an schnelle technologische Veränderungen anzupassen. Gleichzeitig muss das Prinzip der doppelten Verantwortung gewährleistet sein: Einzelpersonen oder Organisationen, die KI nutzen, müssen für die von ihnen geschaffenen Produkte verantwortlich sein.

Zweitens: Etablieren Sie einen nationalen Identifizierungsmechanismus für KI-generierte Inhalte durch digitale Authentifizierungsstandards (KI-Wasserzeichen, Provenienzcode). Digitale Plattformen sollten verpflichtet werden, KI-generierte Inhalte zu kennzeichnen oder zu verifizieren, damit Nutzer bereits beim Empfang zwischen echten und gefälschten Inhalten unterscheiden können.

Drittens bilden Bildung und soziale Medien eine langfristige Verteidigungslinie. Gesetze können das Verhalten regulieren, aber nur Bildung kann das Bewusstsein regulieren. Die Integration von Wissen über Datensicherheit, die Erkennung von Fake News und Technologieethik in die allgemeine Bildung und die Lehrpläne der Universitäten wird eine Klasse von Bürgern mit „digitalen Antikörpern“ schaffen – eine nachhaltige Grundlage für eine sichere Gesellschaft.

Laut Herrn Hieu ist künstliche Intelligenz nicht nur ein technologischer Fortschritt, sondern auch eine moralische und rechtliche Bewährungsprobe für die Menschheit. Wenn Maschinen die Wahrheit wiederherstellen können, sind die Menschen gezwungen zu lernen, wie sie den einzigen Glauben schützen können, der nicht programmiert werden kann.

Vietnam muss proaktiv die Führung übernehmen, indem es einen flexiblen Rechtsrahmen schafft, die öffentlich-private Zusammenarbeit bei der Prävention von KI-Kriminalität verbessert und die Aufklärung der Bevölkerung über digitale Immunität fördert.

„Eine sichere Gesellschaft im Zeitalter der künstlichen Intelligenz zeichnet sich nicht durch die stärksten Firewalls aus, sondern durch die aufmerksamsten Bürger. Wenn Daten der Treibstoff des digitalen Zeitalters sind, dann ist Vertrauen der Motor. Ohne Vertrauen bricht jedes System zusammen, egal wie fortschrittlich die Technologie ist“, betonte der Kriminologe.

Am 25. Oktober fand in Hanoi die feierliche Unterzeichnung der UN-Konvention gegen Cyberkriminalität unter dem Motto „Cyberkriminalität bekämpfen – Verantwortung teilen – Blick in die Zukunft“ statt. Die Hanoi-Konvention gilt als wichtiger Schritt zum Aufbau des ersten globalen Rechtsrahmens zur Koordinierung gemeinsamer Maßnahmen zur Bekämpfung von Cyberkriminalität. Dies ist nicht nur ein historischer Meilenstein für die internationale Gemeinschaft, sondern unterstreicht auch die Rolle und Position Vietnams auf der internationalen Bühne.

Quelle: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html