Verhindern, dass Technologie ethische Grenzen überschreitet

Der zunehmende Einsatz von KI für unethische Zwecke hat zu dringenden Forderungen nach Technologiekontrolle und erhöhter Verantwortung der Nutzer geführt.

Künstliche Intelligenz (KI) sorgt mit ihrem rasanten Fortschritt in vielen Bereichen für eine Revolution – vom Gesundheitswesen über Bildung und Wirtschaft bis hin zum täglichen Leben. Die negativen Aspekte dieser Technologie stellen jedoch erhebliche Herausforderungen für die Verwaltung und Kontrolle von Informationen im Cyberspace dar.

Überflutet mit KI-generierten Fake News

Von KI generierte Fake News werden auf Social-Media-Plattformen hauptsächlich verbreitet, um Aufrufe und Likes zu gewinnen, die Interaktionen zu erhöhen, um online zu verkaufen oder von der Plattform zu profitieren.

Personen, die Fake News erstellen, „verfolgen“ häufig brandaktuelle Themen, die von öffentlichem Interesse sind. So tauchten beispielsweise nach einem schweren Verkehrsunfall am 17. September auf dem Tan Long-Markt in der Gemeinde Lao Bao in der Provinz Quang Tri , bei dem zwölf Menschen verletzt und getötet wurden, zahlreiche herzzerreißende Bilder in den sozialen Netzwerken auf, die vielen Zuschauern Tränen in die Augen trieben. Die Polizei der Gemeinde Lao Bao stellte fest, dass diese Bilder von künstlicher Intelligenz erstellt wurden, und warnte vor der Verbreitung gefälschter Bilder, die Missverständnisse hervorrufen. Dies führt nicht nur zur Verbreitung falscher Informationen, sondern beeinträchtigt auch die Ermittlungen.

Ebenso nutzten viele Social-Media-Konten die öffentliche Aufmerksamkeit rund um das gekenterte Touristenboot Blue Bay 58 in der Halong-Bucht in der Provinz Quang Ninh am 19. Juli, bei dem Dutzende Menschen ums Leben kamen, und veröffentlichten berührende Bilder und Geschichten über die Opfer. Viele dieser Inhalte waren jedoch gefälscht und mithilfe künstlicher Intelligenz erstellt worden, um die Emotionen der Social-Media-Nutzer zu treffen und Interaktionen zu fördern. Insbesondere die weit verbreiteten gefälschten Bilder mit übertrieben mitfühlendem Inhalt könnten bei den Familien der Opfer weitere emotionale Traumata verursachen.

Da die KI-Technologie täglich verbessert wird, lassen sich mit einfachen Befehlen in wenigen Minuten attraktive Videos erstellen, die den Wünschen des Nutzers entsprechen. Insbesondere KI-Plattformen der neuen Generation wie KlingAI, Veo 3 und Sora erfreuen sich bei Nutzern weltweit, auch in Vietnam, großer Beliebtheit.

Darüber hinaus hat die Deepfake-Technologie – eine Kombination aus Deep Learning und Fake – weltweit große Besorgnis ausgelöst, da sie zur Erstellung realistischer Bilder, Töne oder Videos verwendet werden kann, die nur schwer als Fälschung zu erkennen sind. Infolgedessen kam es sowohl in Vietnam als auch weltweit zu einer Reihe von Betrugsfällen im Zusammenhang mit dieser Technologie.

Generalleutnant Nguyen Minh Chinh, ständiger Vizepräsident der National Cyber ​​Security Association, stellte fest, dass es einen Trend zum Missbrauch von KI für illegale Zwecke gibt. Insbesondere AI-as-a-Service (Dienste, die KI-Tools und -Anwendungen bereitstellen – PV) wird von Cyberkriminellen ausgenutzt, um Schadcode, falsche Stimmen, Gesichter, Texte usw. zu erstellen, um Betrug zu begehen, Netzwerke anzugreifen, Datensysteme zu infiltrieren, sogar Sicherheitsinstabilität zu verursachen und den Ruf von Organisationen, Unternehmen und Führungskräften zu zerstören.

Laut Tran Ngoc Anh, Technischer Direktor der Cyber ​​Peace Company Limited (CyPeace), besteht eines der Risiken für KI-Nutzer darin, dass sie möglicherweise falsche Informationen erhalten, die von diesem Tool selbst erstellt wurden. Darüber hinaus gibt es eine Reihe weiterer Probleme, wie die Offenlegung vertraulicher Informationen, personenbezogener Daten usw.

Im Internet werden gefälschte Bilder verbreitet, um den Betrachtern „Tränen zu entlocken“ und so Likes zu gewinnen und die Interaktionen zu steigern (Screenshot).

Erhöhen Sie die Benutzerverantwortung

Bevor es technologische und rechtliche Maßnahmen gibt, um die Entwicklung und Nutzung von KI streng zu kontrollieren, müssen die Benutzer diese Technologie proaktiv und verantwortungsvoll nutzen.

Der Cybersicherheitsexperte Vu Ngoc Son, Leiter der Technologieabteilung der National Cybersecurity Association, wies darauf hin, dass Menschen KI ausnutzen und nutzen. Die guten und schlechten Seiten von KI seien daher eng mit dem Menschen verbunden. Wenn die Nutzer qualifiziert seien und sie für gute Zwecke einsetzten, entfalte die Technologie ihre positiven Stärken. Fehlendes Verständnis oder Missbrauch der KI für illegale Zwecke könne hingegen schwerwiegende Folgen haben. „Um KI effektiv zu nutzen und auszunutzen, muss man sich auf den Aufbau von Teams und Prozessen konzentrieren. KI entfalte ihren Wert nur dann, wenn sie in die Hände derer gelegt werde, die sie zu beherrschen wissen“, so der Cybersicherheitsexperte.

Angesichts der Gefahr von Deepfakes – dem heutzutage führenden Instrument für Technologiebetrug – betonte das Finanzministerium im Zuge der Ausarbeitung des Gesetzes über Investitionen und Unternehmen auch: Das Geschäft mit Deepfake-Technologien muss als bedingter Geschäftsbereich reguliert werden, um Technologiemissbrauch zu verhindern, der zu Informationsstörungen und Betrug usw. führt. Laut dem Finanzministerium ist das Geschäft mit Deepfake-Technologien derzeit eines der neuen Felder, das komplexe Risiken für die Sicherheit und Ordnung birgt, aber nicht als bedingter Geschäftsbereich reguliert wird.

Laut Rechtsanwalt Tran Anh Tuan (Anwaltskammer Hanoi) verstößt die unbefugte Nutzung von KI zur Erstellung von Inhalten, insbesondere zur Erstellung falscher, gefälschter oder betrügerischer Informationen, möglicherweise gegen das Zivilgesetzbuch. Verstöße werden mit Verwaltungsstrafen oder Schadensersatz geahndet. Bei schwerwiegenden Folgen drohen strafrechtliche Konsequenzen. „Nutzer müssen beim Umgang mit und bei der Nutzung von KI vorsichtig sein und es unbedingt vermeiden, KI auszunutzen, um Aufrufe und Likes zu gewinnen. Sie sollten ihre Eigenverantwortung stärken und sich bei der Nutzung von KI und bei der Teilnahme am Online-Umfeld an die Gesetze halten“, empfiehlt Rechtsanwalt Tuan.

Generalleutnant Nguyen Minh Chinh betonte, dass der Kernfaktor für eine nachhaltige KI-Entwicklung die Humanressourcen seien. Von Forschern, Ingenieuren und Cybersicherheitsexperten bis hin zu Managern und Anwendern müssten alle über umfassendes Wissen, Fähigkeiten, ethische Grundsätze und Rechtsbewusstsein verfügen. Laut Herrn Chinh ist dies nicht nur das Team, das KI-Systeme entwickelt und betreibt, sondern auch die Schlüsselkraft bei der Prävention, Aufdeckung und Bekämpfung von High-Tech-Kriminalität im Cyberspace.

Vietnam wird ein Gesetz zur künstlichen Intelligenz haben

Auf einer kürzlich abgehaltenen nationalen wissenschaftlichen Konferenz zum Thema KI erklärte Wissenschafts- und Technologieminister Nguyen Manh Hung, dass KI große Chancen eröffne, aber auch viele Fragen in Bezug auf Ethik, Beschäftigung und soziales Vertrauen aufwerfe. Daher müsse KI schnell, sicher und human entwickelt werden.

Laut Minister Nguyen Manh Hung ersetzt KI den Menschen nicht, sondern dient ihm und ist sein Assistent. KI ist ein mächtiges Werkzeug, aber die Entscheidungen liegen beim Menschen. Daher soll KI das menschliche Denken, die menschlichen Werte und die menschlichen Verantwortlichkeiten unterstützen und nicht ersetzen. „Das Ministerium für Wissenschaft und Technologie wird einen nationalen KI-Ethikkodex herausgeben, der internationalen Standards entspricht, aber an die vietnamesische Praxis angepasst ist, und gleichzeitig ein KI-Gesetz und eine KI-Strategie entwickeln“, so Minister Nguyen Manh Hung.

Quelle: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm