Verhindern, dass Technologien ethische Grenzen überschreiten.

Der zunehmende Einsatz von KI zu unethischen Zwecken hat einen dringenden Bedarf an Technologiekontrolle und erhöhter Verantwortlichkeit der Nutzer geschaffen.

Künstliche Intelligenz (KI) schreitet rasant voran und revolutioniert zahlreiche Bereiche – von Gesundheitswesen, Bildung und Wirtschaft bis hin zum Alltag. Die Schattenseiten dieser Technologie stellen jedoch erhebliche Herausforderungen für die Verwaltung und Kontrolle von Informationen im Cyberspace dar.

Überschwemmt mit KI-generierten Fake News.

Von KI generierte Falschnachrichten werden auf Social-Media-Plattformen vor allem verbreitet, um Aufrufe, Likes und Interaktionen für Online-Verkäufe zu generieren oder um von der Plattform zu profitieren.

Wer Falschnachrichten verbreitet, nutzt häufig aktuelle Ereignisse aus, die die öffentliche Aufmerksamkeit auf sich ziehen. So kursierten beispielsweise nach dem schweren Verkehrsunfall am 17. September auf dem Markt von Tan Long in der Gemeinde Lao Bao, Provinz Quang Tri , bei dem zwölf Menschen ums Leben kamen, herzzerreißende Bilder in den sozialen Medien, die viele Menschen zu Tränen rührten. Die Polizei der Gemeinde Lao Bao erkannte diese Bilder als KI-generiert und warnte vor der Verbreitung dieser irreführenden Fälschungen. Dieses Verhalten verbreitet nicht nur Falschinformationen, sondern behindert auch die Ermittlungen.

Ähnlich verhielt es sich mit dem Unglück des Touristenbootes „Green Bay 58“ in der Halong-Bucht der Provinz Quang Ninh am 19. Juli, bei dem Dutzende Menschen ums Leben kamen. Viele Social-Media-Nutzer nutzten die öffentliche Aufmerksamkeit und veröffentlichten emotionale Bilder und Geschichten über die Opfer. Ein erheblicher Teil dieser Inhalte war jedoch gefälscht und wurde mithilfe von KI erstellt, um Emotionen zu manipulieren und Interaktionen in den sozialen Medien zu generieren. Insbesondere die weitverbreitete Verwendung gefälschter Bilder mit übertriebener Anteilnahme könnte die Familien der Opfer zusätzlich traumatisieren.

Dank der ständigen Weiterentwicklung der KI-Technologie lassen sich Videos mit ansprechenden Inhalten, die perfekt auf die Bedürfnisse der Nutzer zugeschnitten sind, in wenigen Minuten und mit einfachen Befehlen erstellen. Zu den KI-Plattformen der nächsten Generation wie KlingAI, Veo 3 und Sora zählen zu den weltweit beliebtesten Anbietern, auch in Vietnam.

Darüber hinaus stellt die Deepfake-Technologie – eine Kombination aus Deep Learning und Fälschung – weltweit ein großes Problem dar, da sie zur Erstellung von Bildern, Tönen oder Videos genutzt werden kann, die so realistisch wirken, dass sie kaum als Fälschung zu erkennen sind. Infolgedessen kam es sowohl in Vietnam als auch weltweit zu zahlreichen Betrugsfällen im Zusammenhang mit dieser Technologie.

Generalleutnant Nguyen Minh Chinh, stellvertretender Vorsitzender der Nationalen Cybersicherheitsvereinigung, wies auf einen zunehmenden Missbrauch von KI zu illegalen Zwecken hin. Insbesondere KI-gestützte Tools und Anwendungen werden von Cyberkriminellen ausgenutzt, um Schadsoftware zu erstellen, Stimmen, Gesichter und Texte zu fälschen und so Betrug, Cyberangriffe, das Eindringen in Datensysteme und sogar die Destabilisierung der Sicherheit und die Schädigung des Rufs von Organisationen, Unternehmen und Führungskräften zu begehen.

Laut Herrn Tran Ngoc Anh, Technischer Direktor von Hoa Binh Cyber ​​Space Company Limited (CyPeace), besteht eines der Risiken für KI-Nutzer darin, dass sie möglicherweise Fehlinformationen erhalten, die vom Tool selbst generiert werden. Hinzu kommen zahlreiche weitere Probleme wie der Verlust vertraulicher Informationen und personenbezogener Daten.

Gefälschte Bilder werden online verbreitet, um „Betrachter zum Weinen zu bringen“, wodurch Likes und Interaktionen gesteigert werden (Screenshot).

Stärkung der Nutzerverantwortung

Bevor technologische und rechtliche Maßnahmen zur strengen Kontrolle der Entwicklung und Nutzung von KI greifen, müssen die Nutzer diese Technologie proaktiv und verantwortungsbewusst einsetzen.

Der Cybersicherheitsexperte Vu Ngoc Son, Leiter des Technologieausschusses der Nationalen Cybersicherheitsvereinigung, betonte, dass der Mensch derjenige ist, der KI nutzt und einsetzt. Daher sind sowohl die positiven als auch die negativen Aspekte von KI eng mit dem Menschen verknüpft. Wenn die Anwender qualifiziert sind und die Technologie für positive Zwecke nutzen, kann sie ihre Stärken zu ihrem Vorteil einsetzen. Umgekehrt kann es schwerwiegende Folgen haben, wenn KI-Anwender die Technologie nicht verstehen oder sie für illegale Zwecke missbrauchen. „Um KI effektiv zu nutzen, ist es notwendig, ein Team aufzubauen und entsprechende Prozesse zu entwickeln. KI entfaltet ihren Wert erst, wenn sie in den Händen von Experten liegt, die sie beherrschen“, so der Cybersicherheitsexperte.

Angesichts der Gefahren der Deepfake-Technologie – einem der wichtigsten Werkzeuge für Cyberbetrug – betonte das Finanzministerium bei der Ausarbeitung des Investitions- und Wirtschaftsgesetzes, dass der Deepfake-Technologiehandel als regulierungsbedürftiger Wirtschaftszweig eingestuft werden müsse, um den Missbrauch dieser Technologie, der zu Informationsstörungen und Betrug führt, zu verhindern. Laut Finanzministerium zählt der Deepfake-Technologiehandel derzeit zu den neuen Bereichen mit komplexen potenziellen Risiken für Sicherheit und Ordnung, ist aber noch nicht als regulierungsbedürftiger Wirtschaftszweig eingestuft.

Laut Rechtsanwältin Tran Anh Tuan (Anwaltskammer Hanoi) kann die unbefugte Nutzung von KI zur Erstellung von Inhalten, insbesondere von falschen, erfundenen oder betrügerischen Informationen, gegen das Zivilgesetzbuch verstoßen. Zuwiderhandlungen können mit Verwaltungsstrafen oder Schadensersatzforderungen geahndet werden. In Fällen mit schwerwiegenden Folgen kann sogar eine Strafanzeige erstattet werden. „Nutzer sollten beim Zugriff auf und der Nutzung von KI äußerst vorsichtig sein und jegliche Handlungen vermeiden, die KI ausnutzen, um Klicks oder Likes zu generieren. Sie sollten ihre Eigenverantwortung stärken und sich bei der Nutzung von KI und ihrer Teilnahme am Online-Bereich an die geltenden Gesetze halten“, rät Rechtsanwältin Tuan.

Generalleutnant Nguyen Minh Chinh betonte, dass die Grundlage für eine nachhaltige KI-Entwicklung die Humanressourcen bilden. Von Forschern, Ingenieuren und Cybersicherheitsexperten bis hin zu Managern und Anwendern – alle müssen über umfassende Kenntnisse, Fähigkeiten, ethisches Bewusstsein und Rechtsbewusstsein verfügen. Laut Chinh ist dies nicht nur das Team, das KI-Systeme entwickelt und betreibt, sondern auch die Schlüsselkraft bei der Prävention, Aufdeckung und Bekämpfung von Hightech-Kriminalität im Cyberspace.

Vietnam wird ein Gesetz über künstliche Intelligenz haben.

Auf einer kürzlich abgehaltenen nationalen wissenschaftlichen Konferenz zum Thema KI erklärte Wissenschafts- und Technologieminister Nguyen Manh Hung, dass KI zwar große Chancen eröffne, aber auch zahlreiche Fragen in Bezug auf Ethik, Beschäftigung und gesellschaftliches Vertrauen aufwerfe. Daher müsse die KI-Entwicklung zügig, sicher und human erfolgen.

Laut Minister Nguyen Manh Hung ersetzt KI den Menschen nicht, sondern dient ihm als Assistent. KI ist ein leistungsstarkes Werkzeug, doch die Entscheidungen treffen weiterhin der Mensch. Daher sollte KI menschliches Denken, Werte und Verantwortlichkeiten unterstützen, nicht ersetzen. „Das Ministerium für Wissenschaft und Technologie wird einen nationalen Ethikkodex für KI herausgeben, der mit internationalen Standards harmonisiert, aber auf die vietnamesischen Gegebenheiten zugeschnitten ist. Außerdem werden ein KI-Gesetz und eine KI-Strategie entwickelt“, erklärte Minister Nguyen Manh Hung.

Quelle: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm