KI gestaltet die Zukunft – Teil 2: Die damit verbundenen Herausforderungen

Potenzial birgt Risiken

Es ist unbestreitbar, dass sich künstliche Intelligenz (KI) zunehmend als wirksames Instrument zur Unterstützung von Arbeitnehmern und zur Erleichterung des menschlichen Lebens erweist. Diese technologischen Produkte sind jedoch ein zweischneidiges Schwert, wenn sie von Kriminellen für Betrug und Angriffe im Cyberspace missbraucht werden.

In den Warnbulletins des Department of Information Security ( Ministerium für Information und Kommunikation ) oder der Cyber Security Association wurden zahlreiche Fälle von Betrug mithilfe von KI-Technologie erwähnt. So chattete beispielsweise Frau Nguyen Thanh T, eine Büroangestellte in Hanoi, mit einer Freundin über Facebook Messenger. Diese verabschiedete sich und beendete das Gespräch, schrieb ihr aber plötzlich eine SMS, in der sie um Geld bat und vorschlug, das Geld auf ein Bankkonto zu überweisen. Obwohl der Kontoname mit dem Namen ihrer Freundin übereinstimmte, war Frau T misstrauisch und bat zur Überprüfung um einen Videoanruf. Die Freundin stimmte sofort zu, aber das Gespräch dauerte aufgrund einer „intermittierenden Netzwerkstörung“ nur wenige Sekunden.

Als Frau T. das Gesicht ihrer Freundin im Videoanruf sah und die Stimme stimmte, überwies sie das Geld. Doch erst nach erfolgreicher Überweisung wurde ihr klar, dass sie in die Falle des Hackers getappt war.

Nicht nur Frau T., sondern auch viele andere Opfer, Freunde und Verwandte wurden auf die gleiche Weise betrogen. Die Geldsumme, die die Kriminellen durch die Nachahmung ihrer Identität mithilfe des Deepfake-Tools und der Stimme ergaunert haben, liegt bei mehreren zehn Millionen Dong.

Ein weiteres typisches Beispiel für den Einsatz von KI zur Aneignung von Vermögenswerten ist der Fall von Mr. NTH. Die Betrüger stellten auf einem Android-Telefon eine Falle mit der Anweisung, einen schädlichen Link zu installieren. Von dort aus übernahmen sie die Kontrolle über das Telefon und die Bankkonten, um Geld an Dritte zu überweisen. Darüber hinaus kontaktierte die Schadsoftware automatisch verfügbare Kontaktinformationen und verschickte automatische Nachrichten mit der Aufforderung zur Geldüberweisung.

Herr NTH sagte, der Betrüger habe sich als „ Polizist “ ausgegeben, seine Telefonnummer angerufen und ihn gebeten, seine persönlichen Daten zu bestätigen. Da er alt, technisch nicht versiert und leichtgläubig sei, habe das Opfer sein Telefon an eine dritte Person weitergegeben und diese gebeten, den Anweisungen des Betrügers zu folgen. Dadurch habe er die Schadsoftware „DichVuCong.apk“ auf sein Telefon heruntergeladen und installiert.

Herr Tran Nguyen Chung, Leiter der Abteilung für Informationssystemsicherheit (Abteilung Informationssicherheit), sagte: „Mit der Entwicklung der KI-Technologie wird es schwieriger, echte und gefälschte Inhalte im Cyberspace zu erkennen und zu unterscheiden. Jeder kann zum Ziel und Opfer von Cyberangriffen durch Kriminelle werden, die KI-Technologie nutzen. Ob man jedoch Opfer wird, hängt davon ab, ob jeder Einzelne über das notwendige Wissen und die notwendigen Informationen verfügt.“

Dieser KI-Technologiebetrug kommt nicht nur in Vietnam, sondern in vielen Ländern weltweit vor. Derzeit arbeiten Behörden, Organisationen und große Technologiekonzerne gemeinsam an Maßnahmen und technischen Lösungen, um den Betrug an der Wurzel zu packen und zu verhindern.

In der aktuellen Zeit ist es wichtig, Propaganda zu fördern und die Menschen für Methoden, Tricks und Möglichkeiten zur Erkennung und Bekämpfung dieser raffinierten Form der Fälschung zu sensibilisieren, um die Auswirkungen von Deepfakes auf Aktivitäten im Cyberspace zu verringern und zu begrenzen. Bei neuen Entwicklungen und Formen des Betrugs sollten proaktiv umfassende Warnungen in den Massenmedien verbreitet werden.

„Wenn man Drohanrufe mit sensiblen Bildern oder Videos erhält, muss man Ruhe bewahren und die Herkunft der Bilder und Videos überprüfen und sorgfältig recherchieren“, sagte Herr Tran Nguyen Trung.

Laut dem Forschungsbericht „Identifizierung von Risiken für die Weltwirtschaft im Jahr 2024“ der Wirtschaftsuniversität (UEB) der Vietnam National University in Hanoi ist der Technologiesektor eines der Risiken für die Weltwirtschaft. Der Bericht stellt fest, dass die Managementpolitik angesichts der rasanten Entwicklung von KI nicht mit deren Entwicklung Schritt halten konnte. Die durch KI verbreiteten Fehlinformationen, insbesondere in einem Jahr mit vielen Wahlen weltweit, werfen weltweit viele Fragen in Bezug auf Sicherheit, Politik, Verteidigung und Frieden auf.

In einem Gespräch mit Reportern der Zeitung Tin Tuc sagte der stellvertretende Minister für Wissenschaft und Technologie, Nguyen Hoang Giang: „Der Premierminister hat den Beschluss Nr. 127/2021 zur nationalen Forschungsstrategie, Entwicklung und Anwendung künstlicher Intelligenz bis 2030 erlassen. Zur Umsetzung haben das Ministerium für Wissenschaft und Technologie sowie andere Ministerien und Zweige drastische und gleichzeitige Maßnahmen ergriffen, beispielsweise das Justizministerium, das den rechtlichen Aspekt erforscht. Das Ministerium für Information und Kommunikation erforscht digitale Technologien. Das Ministerium für Wissenschaft und Technologie hat auch Industrie 4.0 unterstützt, erforscht und entwickelt und die Entwicklung von Informationstechnologien erforscht und angewendet, die der Entwicklung digitaler und intelligenter Städte dienen. Mit der schnellen und starken Entwicklung sind jedoch auch die negativen Aspekte und Risiken der KI zutage getreten, wenn sie missbraucht wird, um von Cyberkriminellen zu Betrug, Identitätsdiebstahl, Drohungen, Eigentumsaneignung usw. missbraucht zu werden.

Bislang arbeiten das Ministerium für Wissenschaft und Technologie und die Regierung neben der Forschung auch aktiv an der Schaffung eines rechtlichen Rahmens und lernen dabei von den Erfahrungen anderer Industrieländer, damit der KI-Bereich in Vietnam sein Potenzial entfalten und seine Entwicklung vorantreiben kann und gleichzeitig eine strenge Kontrolle sowie die Gewährleistung von Ethik und Menschlichkeit im Bereich der künstlichen Intelligenz gewährleistet ist.

Die rasante Entwicklung von KI-Tools wirft zahlreiche Fragen in Bezug auf Menschenrechte, Ethik, Datenschutz, Informationssicherheit und rechtliche Verantwortung auf. Vietnam befindet sich im internationalen Vergleich noch in einem frühen Stadium der KI-Entwicklung. Daher besteht Bedarf an spezifischen KI-Regelungen und -Richtlinien, die für alle Aspekte des Lebens, der Wirtschaft und der Gesellschaft in Vietnam geeignet sind.

Dringend rechtliche Rahmenbedingungen schaffen

Auch der Umgang mit den Schattenseiten der KI ist in einigen Ländern ein Thema, das diskutiert wird. Das Europäische Parlament hat das weltweit erste Regelwerk zur Regulierung künstlicher Intelligenz verabschiedet. Viele Technologieexperten sind überzeugt, dass dieses Regelwerk der EU helfen wird, beide Ziele zu erreichen: die negativen Auswirkungen der technologischen Entwicklung auf die Nutzer zu minimieren und gleichzeitig die dominante Stellung wichtiger Wettbewerber auf dem Markt einzuholen.

Kurz darauf verabschiedete die Generalversammlung der Vereinten Nationen eine Resolution zur künstlichen Intelligenz (KI), in der sie die weltweite Unterstützung für internationale Bemühungen zusagte, die sicherstellen sollen, dass diese neue Technologie allen Ländern zugutekommt, die Menschenrechte respektiert und „sicher, geschützt und vertrauenswürdig“ ist.

Herr Vu Ngoc Son, Technischer Direktor der National Cyber Security Technology Joint Stock Company, sagte: „KI ist eine Technologie, die menschlichen Interessen dient und die Automatisierung vieler verschiedener Betriebsphasen unterstützt. Sie ist ein leistungsstarkes Werkzeug, das für viele verschiedene Zwecke eingesetzt wird, beispielsweise für die Bereitstellung von Q&A-Diensten oder die Softwareproduktion. KI hat jedoch auch eine Kehrseite, wenn sie in die Hände von Kriminellen gerät, die betrügerische Inhalte und Schadcodes erstellen, um Benutzer anzugreifen. KI ist daher kein Werkzeug, das speziell für die Produktentwicklung oder Kriminalität bestimmt ist. Die wichtige Frage ist vielmehr, wie man KI einsetzt.“

„Ich denke, dass Sanktionen und rechtliche Rahmenbedingungen der Geschwindigkeit der KI-Entwicklung nicht wirklich gerecht werden. Wir brauchen Zeit, um Richtlinien zu entwickeln und einzuführen, die die Risiken von KI begrenzen, wenn sie für schlechte Zwecke eingesetzt wird und Menschenrechte sowie Sicherheit, Ordnung und soziale Sicherheit beeinträchtigt“, sagte Vu Ngoc Son.

Dr. Dang Minh Tuan, Direktor des CMC ATI Institute, sagte: „Einerseits müssen wir weiterhin neue Technologien erforschen und entwickeln, KI aktualisieren und Tricks erforschen, um sie für schädliche Zwecke einzusetzen. Andererseits müssen wir auch Ehrlichkeit in Wissenschaft und Arbeit fördern. Dementsprechend müssen in Vietnam Anpassungen und Investitionen in Inhalte und spezifische Richtlinien für dieses Tool vorgenommen werden. Insbesondere können wir KI-Tools auch zur Erkennung bösartiger Inhalte und Codes einsetzen. KI ist wie ein zweischneidiges Schwert: Sie schafft einen kontinuierlichen, kontinuierlichen und sich ständig verbessernden Prozess mit dem Ziel, den menschlichen Interessen zu dienen.“

Experten zufolge besteht die Notwendigkeit darin, die Entwicklung von Hochtechnologieprodukten verantwortungsvoll zu kontrollieren, da die Unfähigkeit, die Technologie zu regulieren und zu beherrschen, zu unvorhersehbaren Konsequenzen führen wird, die der Wirtschaft Verluste zufügen und jeden Einzelnen sowie die gesamte Gesellschaft betreffen.

Die Einführung spezifischer und transparenter Vorschriften wird nicht nur dazu beitragen, die Risiken, die durch KI entstehen können, zu verhindern und zu minimieren, sondern Vietnam auch dabei helfen, die Aufmerksamkeit und Investitionen der weltweit führenden Technologieunternehmen auf sich zu ziehen und so die Entwicklung der heimischen Informationstechnologie- und KI-Branche zu fördern.

Abschließender Artikel: Parallele Entwicklung und Kontrolle von KI

Quelle: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238