Verhindern, dass Technologien ethische Grenzen überschreiten

Die zunehmend verbreitete Nutzung von KI zu unethischen Zwecken hat dringende Forderungen nach Technologiekontrolle und erhöhter Nutzerverantwortung laut werden lassen.

Künstliche Intelligenz (KI) revolutioniert dank ihrer rasanten Weiterentwicklung zahlreiche Bereiche – von Gesundheitswesen, Bildung und Wirtschaft bis hin zum Alltag. Die negativen Aspekte dieser Technologie stellen jedoch erhebliche Herausforderungen für die Verwaltung und Kontrolle von Informationen im Cyberspace dar.

Überschwemmt mit KI-generierten Falschnachrichten

Falsche Nachrichten, die von KI generiert werden, werden hauptsächlich auf Social-Media-Plattformen verbreitet, um Aufrufe und Likes zu generieren, die Interaktionen zu steigern und online zu verkaufen oder von der Plattform zu profitieren.

Menschen, die Falschnachrichten verbreiten, greifen oft aktuelle, von öffentlichem Interesse geprägte Themen auf. So tauchten beispielsweise nach einem schweren Verkehrsunfall am 17. September auf dem Markt von Tan Long in der Gemeinde Lao Bao, Provinz Quang Tri , bei dem zwölf Menschen verletzt oder getötet wurden, zahlreiche herzzerreißende Bilder in sozialen Netzwerken auf, die viele Betrachter zu Tränen rührten. Nachdem festgestellt wurde, dass diese Bilder von einer KI erstellt worden waren, warnte die Polizei der Gemeinde Lao Bao vor der Verbreitung von Falschmeldungen, die zu Missverständnissen führen. Solche Handlungen tragen nicht nur zur Verbreitung von Fehlinformationen bei, sondern behindern auch die Ermittlungen.

Ähnlich verhielt es sich mit dem tragischen Unglück des Touristenbootes Blue Bay 58 in der Halong-Bucht der Provinz Quang Ninh am 19. Juli, bei dem Dutzende Menschen ums Leben kamen. Viele Social-Media-Accounts nutzten die öffentliche Aufmerksamkeit und veröffentlichten rührende Bilder und Geschichten über die Opfer. Viele dieser Inhalte waren jedoch gefälscht und mithilfe von KI erstellt, um Emotionen zu wecken und Interaktionen in den sozialen Medien zu generieren. Insbesondere die weit verbreiteten gefälschten Bilder mit übertriebenem Mitgefühl könnten den Familien der Opfer zusätzliche seelische Belastungen zufügen.

Da sich KI-Technologien ständig weiterentwickeln, lassen sich mit einfachen Befehlen innerhalb weniger Minuten ansprechende Videos erstellen, die den Wünschen des Nutzers entsprechen. Insbesondere KI-Plattformen der neuen Generation wie KlingAI, Veo 3 und Sora erfreuen sich weltweit, auch in Vietnam, großer Beliebtheit.

Darüber hinaus hat die Deepfake-Technologie – eine Kombination aus Deep Learning und Fälschung – weltweit große Besorgnis ausgelöst, da sie zur Erstellung realistischer Bilder, Töne oder Videos genutzt werden kann, die nur sehr schwer als Fälschung zu erkennen sind. Infolgedessen kam es sowohl in Vietnam als auch weltweit zu einer Reihe von Betrugsfällen im Zusammenhang mit dieser Technologie.

Generalleutnant Nguyen Minh Chinh, Ständiger Vizepräsident der Nationalen Vereinigung für Cybersicherheit, wies auf einen Trend zum Missbrauch von KI für illegale Zwecke hin. Insbesondere KI-as-a-Service (Dienste, die KI-Tools und -Anwendungen bereitstellen) wird von Cyberkriminellen ausgenutzt, um Schadcode zu erstellen, Stimmen, Gesichter und Texte zu fälschen usw., um Betrug zu begehen, Netzwerke anzugreifen, Datensysteme zu infiltrieren, Sicherheitsinstabilität zu verursachen und den Ruf von Organisationen, Unternehmen und Führungskräften zu schädigen.

Laut Herrn Tran Ngoc Anh, Technischer Direktor von Cyber ​​Peace Company Limited (CyPeace), besteht eines der Risiken für KI-Nutzer darin, dass sie von diesem Tool selbst generierte Falschinformationen erhalten könnten. Darüber hinaus gibt es eine Reihe weiterer Probleme, wie die Offenlegung vertraulicher Informationen und personenbezogener Daten.

Gefälschte Bilder werden im Internet verbreitet, um bei den Betrachtern „Tränen hervorzurufen“ und dadurch Likes zu generieren und die Interaktionen zu erhöhen (Screenshot).

Erhöhung der Nutzerverantwortung

Bevor es technologische und rechtliche Maßnahmen zur strengen Kontrolle der Entwicklung und Nutzung von KI gibt, müssen die Nutzer diese Technologie proaktiv und verantwortungsbewusst einsetzen.

Der Cybersicherheitsexperte Vu Ngoc Son, Leiter der Technologieabteilung des Nationalen Cybersicherheitsverbandes, betonte, dass der Mensch derjenige ist, der KI nutzt und einsetzt. Daher hängen die positiven und negativen Aspekte der KI eng mit dem Menschen zusammen. Wenn die Nutzer qualifiziert sind und die Technologie für gute Zwecke einsetzen, kann sie ihre positiven Stärken entfalten. Im Gegensatz dazu kann es schwerwiegende Folgen haben, wenn KI-Nutzer sie nicht verstehen oder für illegale Zwecke missbrauchen. „Um KI effektiv zu nutzen, ist es notwendig, Teams und Prozesse aufzubauen. KI entfaltet ihren Wert nur, wenn sie in den Händen von Experten liegt“, so der Cybersicherheitsexperte.

Angesichts der Gefahr von Deepfakes – dem heutzutage führenden Werkzeug für Technologiebetrug – betonte das Finanzministerium im Zuge der Ausarbeitung des Investitions- und Wirtschaftsgesetzes: Die Deepfake-Technologiebranche muss als bedingt regulierter Wirtschaftszweig eingestuft werden, um Technologiemissbrauch mit Informationsstörungen und Betrug zu verhindern. Laut Finanzministerium stellt die Deepfake-Technologiebranche derzeit ein neues Feld dar, das komplexe Risiken für Sicherheit und Ordnung birgt, aber nicht als bedingt regulierter Wirtschaftszweig gilt.

Laut Rechtsanwältin Tran Anh Tuan (Anwaltskammer Hanoi) kann die unbefugte Nutzung von KI zur Erstellung von Inhalten, insbesondere von falschen oder betrügerischen Informationen, gegen das Zivilgesetzbuch verstoßen. Zuwiderhandlungen werden mit Verwaltungsstrafen oder Schadensersatz geahndet. Bei schwerwiegenden Folgen kann sogar eine Strafanzeige erfolgen. „Nutzer sollten im Umgang mit KI äußerst vorsichtig sein und es unbedingt vermeiden, KI zur Generierung von Klicks und Likes zu missbrauchen. Sie sollten ihre Eigenverantwortung stärken und sich sowohl bei der Nutzung von KI als auch bei der Teilnahme am Online-Leben an die geltenden Gesetze halten“, so die Empfehlung von Rechtsanwältin Tuan.

Generalleutnant Nguyen Minh Chinh betonte, dass die Humanressourcen der Schlüsselfaktor für eine nachhaltige KI-Entwicklung seien. Von Forschern, Ingenieuren und Cybersicherheitsexperten bis hin zu Managern und Anwendern – alle müssten über umfassende Kenntnisse, Fähigkeiten, ethisches Bewusstsein und Rechtssicherheit verfügen. Laut Chinh bilde dieses Team nicht nur die Grundlage für die Entwicklung und den Betrieb von KI-Systemen, sondern sei auch die treibende Kraft bei der Prävention, Aufdeckung und Bekämpfung von Hightech-Kriminalität im Cyberspace.

Vietnam wird ein Gesetz über künstliche Intelligenz haben.

Auf einer kürzlich abgehaltenen nationalen wissenschaftlichen Konferenz zum Thema KI erklärte Wissenschafts- und Technologieminister Nguyen Manh Hung, dass KI zwar große Chancen eröffne, aber auch zahlreiche Fragen in Bezug auf Ethik, Beschäftigung und gesellschaftliches Vertrauen aufwerfe. Daher müsse KI schnell, sicher und human entwickelt werden.

Laut Minister Nguyen Manh Hung ersetzt KI den Menschen nicht, sondern dient ihm und unterstützt ihn. KI ist ein leistungsstarkes Werkzeug, doch die Entscheidungen treffen weiterhin der Mensch. Daher soll KI das menschliche Denken, die Werte und die Verantwortung unterstützen, nicht ersetzen. „Das Ministerium für Wissenschaft und Technologie wird einen nationalen KI-Verhaltenskodex herausgeben, der internationalen Standards entspricht, aber auf die vietnamesische Praxis zugeschnitten ist. Gleichzeitig werden ein KI-Gesetz und eine KI-Strategie entwickelt“, erklärte Minister Nguyen Manh Hung.

Quelle: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm