Seien Sie vorsichtig mit KI-generierten Bildern, wenn die Informationssicherheit bedroht ist.

Der Trend, Bilder mithilfe von KI zu erstellen, breitet sich aus und birgt die Gefahr von Fehlinformationen, die die Cybersicherheit und die nationale Souveränität während wichtiger Feiertage beeinträchtigen.

Im Zeitalter rasanter technologischer Entwicklung breitet sich der Trend, künstliche Intelligenz (KI) zur Bildbearbeitung einzusetzen, auf sozialen Netzwerken aus und zieht die Aufmerksamkeit vieler Nutzer, insbesondere junger Menschen, auf sich. KI-generierte Fotos sind äußerst kreativ und dienen der Unterhaltung, der Personalisierung von Inhalten und dem Ausdruck der Persönlichkeit. Hinter dieser Attraktivität verbergen sich jedoch potenzielle Risiken für die Sicherheit und den Datenschutz.

Unterhaltung oder potenzieller Auslöser?

Laut der Polizei von Hanoi ist in letzter Zeit ein Trend zur Erstellung von Bildern mithilfe künstlicher Intelligenz (KI) zu beobachten, der die Aufmerksamkeit vieler Nutzer auf sich zieht. Obwohl diese Bilder hauptsächlich Unterhaltungszwecken dienen, birgt ihre Verbreitung zahlreiche Risiken und beeinträchtigt die Sicherheit und Informationssicherheit unmittelbar, insbesondere während der Feierlichkeiten zum 80. Jahrestag der Augustrevolution und des Nationalfeiertags am 2. September.

Aktuell können Nutzer mithilfe von KI-Software problemlos Bilder erstellen und diese als Avatare verwenden sowie Nachrichten und Artikel in sozialen Netzwerken wie Zalo, TikTok und Facebook einbetten. Wenn Nutzer jedoch unvorsichtig und politisch unsensibel vorgehen und die von der KI generierten Bilder nicht kontrollieren, könnten sie fehlerhafte Darstellungen verwenden, beispielsweise Karten Vietnams, auf denen die Hoang-Sa- und Truong-Sa-Inseln fehlen – Bilder, die für die vietnamesische Bevölkerung ungeeignet sind. Die Verwendung solcher fehlerhafter Bilder kann die öffentliche Meinung im Internet stark beeinflussen und zu einer falschen Wahrnehmung der Grenzhoheit sowie der Geschichte und der nationalen Kulturtraditionen führen.

Eine KI erzeugt ein Bild eines Ao Dai, auf dem eine Karte von Vietnam abgebildet ist, auf der die Hoang-Sa- und Truong-Sa-Inseln fehlen. (Foto: Polizei Hanoi)

Ein Social-Media-Nutzer in Hanoi erstellte mithilfe einer KI-Software ein Foto eines Ao Dai mit einer aufgedruckten Vietnam-Karte und postete es auf TikTok, um auf den Trend des „Nationalstolzes“ zu reagieren. Allerdings fehlten auf dem KI-generierten Bild die Paracel- und Spratly-Inseln. Der Beitrag verbreitete sich rasant und erreichte Tausende von Aufrufen und Shares, stieß aber auch auf heftige Kritik in der Online-Community. Die Behörden schalteten sich ein, forderten die Entfernung des Inhalts und warnten vor der Verbreitung von Falschinformationen zur nationalen Souveränität .

Warnung der Behörden

Laut Herrn Vu Ngoc Son, dem technischen Direktor des vietnamesischen Nationalen Unternehmens für Cybersicherheitstechnologie (NCS), haben sich KI und KI-basierte Anwendungen in letzter Zeit in vielen Lebensbereichen rasant entwickelt. ChatGPT ist eine solche Anwendung, die auch für Nicht-IT-Experten leicht zugänglich ist und daher schnell für großes Aufsehen sorgte.

Technologisch gesehen stellt ChatGPT im Vergleich zu anderen KI-basierten Technologien keinen Durchbruch dar. In Bezug auf die Datenanalyse war ChatGPT jedoch sehr erfolgreich, da es auf riesigen Datenmengen aus vielen Bereichen basiert und den Nutzern das Gefühl vermittelt, „alles zu wissen“. Genau darin liegt auch der bisherige Reiz von ChatGPT.

ChatGPT wurde ursprünglich für Frage-Antwort-Dienste entwickelt. Das größte Risiko besteht daher darin, ob die von ChatGPT beantworteten Nutzerfragen manipuliert werden könnten, um falsche Informationen zu verbreiten. Derzeit gibt es keine Hinweise auf Angriffe auf ChatGPT, da die Eingabedaten vom Unternehmen selbst kontrolliert, geprüft und gekennzeichnet werden. Die genannten Risiken sind somit begrenzt. Mit der zukünftigen Expansion des Dienstes und dem damit einhergehenden, stark steigenden Bedarf an Eingabedaten müssen die Hersteller jedoch strengere Sicherheitsmaßnahmen implementieren.

KI-Software bietet viele Vorteile, darunter die Möglichkeit, attraktive und kreative Bilder zu erstellen. Bei unverantwortlicher Nutzung kann sie jedoch zu einem zweischneidigen Schwert werden. Die Abteilung für Cybersicherheit und Bekämpfung von Hightech-Kriminalität der Polizei von Hanoi empfiehlt daher Folgendes:

1. Es ist absolut verboten, Bilder der Karte von Vietnam oder Bilder zu erstellen und zu verwenden, die falsch sind, gegen das Gesetz verstoßen oder mit vietnamesischen Traditionen, Gebräuchen und der Kultur unvereinbar sind.

2. Teilen Sie regelmäßig Warnhinweise mit Verwandten, Freunden und der Gemeinschaft, um das Bewusstsein zu schärfen und Komplotte und Tricks feindlicher Kräfte zu verhindern. Lassen Sie nicht zu, dass Ihre Untertanen wichtige politische Ereignisse im Land für illegale Handlungen ausnutzen.

3. Seien Sie vorsichtig bei der Installation und Verwendung nicht verifizierter KI-Anwendungen, um das Risiko der Erfassung Ihrer persönlichen Daten zu vermeiden.

4. Tragen Sie Verantwortung für sich selbst und die Gemeinschaft, wenn Sie an Aktivitäten in sozialen Netzwerken teilnehmen.

Verstöße werden gemäß den gesetzlichen Bestimmungen streng geahndet.

Jeder Nutzer muss sich seiner Verantwortung im Internet bewusst sein. „Trends folgen“ darf nicht mit Ignoranz oder der unbeabsichtigten Unterstützung von Fehlverhalten verwechselt werden. Die Medien haben die Aufgabe, nicht nur Nachrichten zu berichten, sondern auch die öffentliche Meinung zu beeinflussen und so zum Schutz der Wahrheit und nationaler Werte beizutragen.

Quelle: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html