Künstliche Intelligenz prägt die Zukunft – Teil 2: Die damit verbundenen Herausforderungen

Potenzial birgt Risiken

Es ist unbestreitbar, dass künstliche Intelligenz (KI) sich zunehmend als leistungsstarkes Werkzeug zur Unterstützung von Arbeitnehmern und zur Erleichterung des menschlichen Lebens erweist. Allerdings sind diese technologischen Produkte wie ein zweischneidiges Schwert, wenn sie von Kriminellen für Betrug und Cyberangriffe missbraucht werden.

In den Warnmeldungen des Ministeriums für Informations- und Kommunikationssicherheit (Abteilung Informationssicherheit ) und der Cybersicherheitsvereinigung wurden zahlreiche Fälle von Betrug mithilfe von KI-Technologie dokumentiert. So meldete sich beispielsweise Frau Nguyen Thanh T, eine Büroangestellte aus Hanoi, während eines Chats mit einer Freundin über Facebook Messenger. Die Freundin verabschiedete sich und beendete das Gespräch, meldete sich aber plötzlich wieder und bat um Geldleihen und eine Überweisung auf ein Bankkonto. Obwohl der Kontoname mit dem Namen ihrer Freundin übereinstimmte, misstraute Frau T und bat um einen Videoanruf zur Überprüfung. Die Freundin willigte sofort ein, doch der Anruf dauerte aufgrund von Netzwerkproblemen nur wenige Sekunden.

Als Frau T. das Gesicht ihrer Freundin im Videoanruf sah und auch die Stimme stimmte, überwies sie das Geld. Doch erst nachdem die Überweisung erfolgreich war, wurde ihr klar, dass sie in die Falle des Hackers getappt war.

Nicht nur Frau T., auch viele andere Opfer, Freunde und Verwandte wurden auf dieselbe Weise betrogen. Die Betrüger, die sich mithilfe von Deepfake-Tools und -Stimmen als andere ausgaben, ergaunerten Millionen von Dong.

Ein weiteres typisches Beispiel für den Missbrauch von Vermögenswerten durch KI ist der Fall von Herrn NTH. Betrüger platzierten auf einem Android-Smartphone eine Falle mit Anweisungen zur Installation eines Schadprogramms. Anschließend übernahmen sie die Kontrolle über das Telefon und die Bankkonten, um Geld an Dritte zu überweisen. Zusätzlich kontaktierte das Schadprogramm automatisch die verfügbaren Kontaktdaten und versandte automatisierte Nachrichten mit der Aufforderung zu Geldüberweisungen.

Herr NTH berichtete, dass der Betrüger sich als Polizist ausgab, ihn anrief und nach seinen persönlichen Daten fragte. Da er alt, technisch unerfahren und leichtgläubig war, gab er sein Handy einer dritten Person, die ihn bat, den Anweisungen des Betrügers zu folgen. Dadurch wurde die Schadsoftware „DichVuCong.apk“ auf seinem Handy heruntergeladen und installiert.

Herr Tran Nguyen Chung, Leiter der Abteilung für Informationssystemsicherheit, erklärte: „Mit der Weiterentwicklung der KI-Technologie wird es schwieriger, echte von gefälschten Inhalten im Internet zu unterscheiden. Jeder kann dann Zielscheibe von Cyberangriffen werden, die von Kriminellen mithilfe von KI-Technologie durchgeführt werden. Ob man jedoch tatsächlich Opfer wird, hängt davon ab, ob man über das nötige Wissen und die entsprechenden Informationen verfügt.“

Dieses Problem des KI-Technologiebetrugs tritt nicht nur in Vietnam, sondern auch in vielen Ländern weltweit auf. Derzeit arbeiten Behörden, Organisationen und große Technologiekonzerne zusammen, um Maßnahmen und technische Lösungen zu entwickeln, die diesen Betrug von Grund auf aufdecken und verhindern.

In der aktuellen Phase ist es wichtig, Aufklärungsarbeit zu leisten und das Bewusstsein der Bevölkerung für Methoden, Tricks und Vorgehensweisen zur Erkennung und Bekämpfung dieser raffinierten Fälschungsform zu schärfen, um die Auswirkungen von Deepfakes im Cyberspace zu reduzieren und einzudämmen. Bei neuen Entwicklungen und Betrugsformen sollten proaktiv Warnungen über die Massenmedien verbreitet werden.

„Wenn Sie Erpressungsanrufe mit sensiblen Bildern oder Videos erhalten, sollten Sie Ruhe bewahren und die Herkunft der Bilder und Videos sorgfältig überprüfen und recherchieren“, sagte Herr Tran Nguyen Trung.

Laut dem Forschungsbericht „Risiken für die Weltwirtschaft 2024“ der Wirtschaftsuniversität (UEB) der Nationalen Universität Vietnam in Hanoi stellt der Technologiesektor eines der größten Risiken für die Weltwirtschaft dar. Der Bericht stellt fest, dass die Managementstrategien angesichts des rasanten Aufstiegs von KI nicht mit deren Entwicklung Schritt halten konnten. Die von KI verbreiteten Fehlinformationen, insbesondere in einem Jahr mit vielen Wahlen weltweit wie diesem, stellen die Bereiche Sicherheit, Politik, Verteidigung und Frieden global vor große Herausforderungen.

Der stellvertretende Minister für Wissenschaft und Technologie, Nguyen Hoang Giang, erklärte gegenüber Reportern der Zeitung Tin Tuc: „Der Premierminister hat die Entscheidung Nr. 127/2021 zur nationalen Forschungsstrategie, Entwicklung und Anwendung künstlicher Intelligenz bis 2030 erlassen. Zur Umsetzung arbeiten das Ministerium für Wissenschaft und Technologie sowie andere Ministerien und Behörden eng zusammen. So erforscht beispielsweise das Justizministerium die rechtlichen Aspekte, das Ministerium für Information und Kommunikation die digitale Technologie. Das Ministerium für Wissenschaft und Technologie unterstützt, erforscht und entwickelt zudem Industrie 4.0 und forscht und wendet Informationstechnologien an, um die Entwicklung digitaler und intelligenter Städte zu fördern. Mit der rasanten Entwicklung sind jedoch auch die negativen Aspekte und Risiken der KI zutage getreten, wenn sie missbraucht wird und Cyberkriminellen als Werkzeug für Betrug, Identitätsdiebstahl, Bedrohungen, Eigentumsdiebstahl usw. dient.“

Bislang arbeiten das Ministerium für Wissenschaft und Technologie und die Regierung neben der Forschung auch aktiv am Aufbau eines Rechtsrahmens und lernen dabei von den Erfahrungen anderer entwickelter Länder, damit der Bereich der künstlichen Intelligenz in Vietnam sein Potenzial voll ausschöpfen, seine Entwicklung fördern und gleichzeitig streng kontrolliert werden kann, um Ethik und Menschlichkeit im Bereich der künstlichen Intelligenz zu gewährleisten.

Die rasante Entwicklung von KI-Werkzeugen hat zahlreiche Fragen zu Menschenrechten, Ethik, Datenschutz, Informationssicherheit und rechtlicher Verantwortung aufgeworfen. Im internationalen Vergleich befindet sich Vietnam noch in einer frühen Phase der KI-Entwicklung. Daher besteht Bedarf an spezifischen KI-Regulierungen und -Richtlinien, die allen Lebensbereichen, der Wirtschaft und der Gesellschaft in Vietnam gerecht werden.

Dringend rechtlichen Rahmen erlassen

Der Umgang mit den Schattenseiten der KI ist ebenfalls ein Thema, das in mehreren Ländern diskutiert wird. Das Europäische Parlament hat als weltweit erstes einen Regelwerk für die Regulierung künstlicher Intelligenz verabschiedet. Viele Technologieexperten sind überzeugt, dass dieses Regelwerk der EU helfen wird, beide Ziele zu erreichen: die negativen Auswirkungen der technologischen Entwicklung auf die Nutzer zu minimieren und gleichzeitig den Rückstand auf die marktbeherrschende Stellung wichtiger Wettbewerber aufzuholen.

Kurz darauf verabschiedete die Generalversammlung der Vereinten Nationen eine Resolution zur künstlichen Intelligenz (KI), die die internationalen Bemühungen um eine gerechtere Zukunft unterstützt, um sicherzustellen, dass diese neue Technologie allen Ländern zugutekommt, die Menschenrechte achtet und „sicher, geschützt und vertrauenswürdig“ ist.

Herr Vu Ngoc Son, Technischer Direktor der Nationalen Aktiengesellschaft für Cybersicherheitstechnologie, erklärte: „KI ist eine Technologie, die dem menschlichen Interesse dient und die Automatisierung vieler verschiedener Arbeitsschritte unterstützt. Sie ist ein leistungsstarkes Werkzeug, das für vielfältige Zwecke eingesetzt wird, beispielsweise für Frage-Antwort-Dienste, Softwareentwicklung usw. KI hat jedoch auch eine Schattenseite, wenn sie in die Hände von Kriminellen gerät, die damit betrügerische Inhalte und Schadcode erstellen, um Nutzer anzugreifen. Daher ist KI kein Werkzeug, das speziell für die Entwicklung von Produkten oder die Begehung von Straftaten gedacht ist; die entscheidende Frage ist vielmehr, wie KI eingesetzt wird.“

„Ich denke, dass Sanktionen und rechtliche Rahmenbedingungen mit der Geschwindigkeit der KI-Entwicklung nicht Schritt gehalten haben. Wir werden Zeit brauchen, um Richtlinien zu entwickeln und einzuführen, die die Risiken von KI bei missbräuchlicher Verwendung begrenzen und so Menschenrechte sowie Sicherheit, Ordnung und soziale Sicherheit gefährden“, sagte Herr Vu Ngoc Son.

Dr. Dang Minh Tuan, Direktor des CMC ATI Instituts, erklärte: „Einerseits müssen wir weiterhin neue Technologien erforschen und entwickeln sowie Methoden zur missbräuchlichen Nutzung von KI untersuchen. Andererseits müssen wir auch Integrität in Wissenschaft und Beruf fördern. Daher sind Anpassungen und Investitionen in Inhalte und spezifische Richtlinien für dieses Werkzeug in Vietnam notwendig. Insbesondere können wir KI-Werkzeuge auch zur Erkennung schädlicher Inhalte und Codes einsetzen. KI ist wie ein zweischneidiges Schwert: Sie erzeugt einen kontinuierlichen Wirkungsprozess und verbessert sich stetig mit dem Ziel, letztendlich dem menschlichen Interesse zu dienen.“

Experten betonen, dass die Entwicklung von Hightech-Produkten verantwortungsvoll gesteuert werden müsse, da die Unfähigkeit, Technologien zu regulieren und zu beherrschen, zu unvorhersehbaren Folgen führen und der Wirtschaft schaden sowie jeden Einzelnen und die gesamte Gesellschaft beeinträchtigen werde.

Die Veröffentlichung spezifischer und transparenter Vorschriften wird nicht nur dazu beitragen, Risiken, die von KI ausgehen können, zu verhindern und zu minimieren, sondern auch dazu beitragen, dass Vietnam die Aufmerksamkeit und Investitionen der weltweit führenden Technologieunternehmen auf sich zieht und die Entwicklung der heimischen Informationstechnologie- und KI-Branche fördert.

Abschließender Artikel: Parallele Entwicklung und Steuerung von KI

Quelle: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238