KI gestaltet die Zukunft – Teil 2: Die damit verbundenen Herausforderungen

Potenzial birgt Risiken

Es ist unbestreitbar, dass sich künstliche Intelligenz (KI) zunehmend als wirksames Werkzeug zur Unterstützung von Arbeitnehmern und zur Erleichterung des Lebens erweist. Diese technologischen Produkte sind jedoch ein zweischneidiges Schwert, wenn sie von Kriminellen für Betrug und Angriffe im Cyberspace missbraucht werden.

In den Warnbulletins des Ministeriums für Information und Kommunikation (Department of Information Security) oder der Cyber ​​Security Association wurden zahlreiche Fälle von Betrug mithilfe von KI-Technologie angeführt. So chattete beispielsweise Frau Nguyen Thanh T, eine Büroangestellte in Hanoi, mit einer Freundin über Facebook Messenger. Diese verabschiedete sich und beendete das Gespräch, schrieb ihr aber plötzlich eine SMS, bat um Geld und schlug vor, das Geld auf ein Bankkonto zu überweisen. Obwohl der Kontoname mit dem Namen ihrer Freundin übereinstimmte, schöpfte Frau T Verdacht und bat zur Überprüfung um einen Videoanruf. Die Freundin stimmte sofort zu, doch das Gespräch dauerte wegen einer „intermittierenden Netzwerkstörung“ nur wenige Sekunden.

Als Frau T. das Gesicht ihrer Freundin im Videoanruf sah und die Stimme stimmte, überwies sie das Geld. Doch erst nach erfolgreicher Überweisung wurde ihr klar, dass sie in die Falle des Hackers getappt war.

Nicht nur Frau T., sondern auch viele andere Opfer, Freunde und Verwandte wurden auf die gleiche Weise betrogen. Die Summe, die die Kriminellen durch die Nachahmung ihrer Identität mithilfe des Deepfake-Tools und der Stimme ergaunert haben, liegt bei mehreren zehn Millionen Dong.

Ein weiteres typisches Beispiel für den Einsatz von KI zur Aneignung von Vermögenswerten ist der Fall von Mr. NTH. Die Betrüger installierten auf einem Android-Telefon eine Falle mit der Anweisung, einen schädlichen Link zu installieren. Von dort aus übernahmen sie die Kontrolle über das Telefon und die Bankkonten, um Geld an Dritte zu überweisen. Darüber hinaus kontaktierte die Schadsoftware automatisch verfügbare Kontaktinformationen und verschickte automatische Nachrichten mit der Aufforderung zur Geldüberweisung.

Herr NTH sagte, der Betrüger habe sich als „ Polizist “ ausgegeben, seine Telefonnummer angerufen und ihn gebeten, seine persönlichen Daten zu bestätigen. Da er alt, technisch nicht versiert und leichtgläubig sei, habe das Opfer sein Telefon an eine dritte Person weitergegeben und diese gebeten, den Anweisungen des Betrügers zu folgen. Dadurch habe er die Schadsoftware „DichVuCong.apk“ auf sein Telefon heruntergeladen und installiert.

Herr Tran Nguyen Chung, Leiter der Abteilung für Informationssystemsicherheit (Abteilung Informationssicherheit), sagte: „Mit der Entwicklung der KI-Technologie wird es schwieriger, echte und gefälschte Inhalte im Cyberspace zu erkennen und zu unterscheiden. Jeder kann zum Ziel und Opfer von Cyberangriffen durch Kriminelle werden, die KI-Technologie nutzen. Ob man jedoch Opfer wird, hängt davon ab, ob jeder Einzelne über das notwendige Wissen und die notwendigen Informationen verfügt.“

Dieser KI-Technologiebetrug kommt nicht nur in Vietnam, sondern in vielen Ländern weltweit vor. Behörden, Organisationen und große Technologiekonzerne arbeiten derzeit gemeinsam an Maßnahmen und technischen Lösungen, um den Betrug an der Wurzel zu packen und zu verhindern.

In der aktuellen Zeit ist es wichtig, Propaganda zu fördern und die Menschen für Methoden, Tricks und Möglichkeiten zur Erkennung und Bekämpfung dieser raffinierten Form der Fälschung zu sensibilisieren, um die Auswirkungen von Deepfakes auf Aktivitäten im Cyberspace zu verringern und zu begrenzen. Proaktiv sollten in den Massenmedien umfassende Warnungen verbreitet werden, wenn es neue Entwicklungen und Formen des Betrugs gibt.

„Wenn man Drohanrufe mit sensiblen Bildern oder Videos erhält, muss man Ruhe bewahren und die Herkunft der Bilder und Videos überprüfen und sorgfältig recherchieren“, sagte Tran Nguyen Trung.

Laut dem Forschungsbericht „Identifizierung von Risiken für die Weltwirtschaft im Jahr 2024“ der Wirtschaftsuniversität (UEB) der Vietnam National University in Hanoi ist der Technologiesektor eines der Risiken für die Weltwirtschaft. Der Bericht stellt fest, dass die Managementpolitik angesichts der rasanten Entwicklung von KI nicht mit deren Entwicklung Schritt halten konnte. Die durch KI verbreiteten Fehlinformationen, insbesondere in einem Jahr mit vielen Wahlen weltweit, werfen weltweit viele Fragen in Bezug auf Sicherheit, Politik, Verteidigung und Frieden auf.

In einem Gespräch mit Reportern der Zeitung Tin Tuc erklärte der stellvertretende Minister für Wissenschaft und Technologie, Nguyen Hoang Giang: „Der Premierminister hat den Beschluss Nr. 127/2021 zur nationalen Forschungsstrategie, Entwicklung und Anwendung künstlicher Intelligenz bis 2030 erlassen. Das Ministerium für Wissenschaft und Technologie sowie andere Ministerien und Zweige haben zur Umsetzung drastische und gleichzeitige Maßnahmen ergriffen, etwa das Justizministerium, das den rechtlichen Aspekt erforscht. Das Ministerium für Information und Kommunikation erforscht digitale Technologien. Das Ministerium für Wissenschaft und Technologie hat auch Industrie 4.0 unterstützt, erforscht und entwickelt und die Entwicklung von Informationstechnologien erforscht und angewendet, die der Entwicklung digitaler und intelligenter Städte dienen. Mit der schnellen und starken Entwicklung sind jedoch auch die negativen Aspekte und Risiken der KI zutage getreten, wenn sie missbraucht wird, um von Cyberkriminellen zu Betrug, Identitätsbetrug, Drohungen, Eigentumsaneignung usw. missbraucht zu werden.

Bislang arbeiten das Ministerium für Wissenschaft und Technologie und die Regierung neben der Forschung auch aktiv an der Schaffung eines rechtlichen Rahmens und lernen dabei von den Erfahrungen anderer Industrieländer, damit der KI-Bereich in Vietnam sein Potenzial entfalten und seine Entwicklung vorantreiben kann und gleichzeitig eine strenge Kontrolle sowie die Gewährleistung von Ethik und Menschlichkeit im Bereich der künstlichen Intelligenz gewährleistet ist.

Die rasante Entwicklung von KI-Tools wirft zahlreiche Fragen zu Menschenrechten, Ethik, Datenschutz, Informationssicherheit und rechtlicher Verantwortung auf. Vietnam befindet sich im weltweiten Vergleich noch in der Anfangsphase der KI-Entwicklung. Daher bedarf es spezifischer KI-Regelungen und -Richtlinien, die allen Aspekten des Lebens, der Wirtschaft und der Gesellschaft in Vietnam gerecht werden.

Dringend rechtliche Rahmenbedingungen schaffen

Auch der Umgang mit den Schattenseiten der KI ist ein Thema, das in einigen Ländern diskutiert wird. Das Europäische Parlament hat das weltweit erste Regelwerk zur Regulierung künstlicher Intelligenz verabschiedet. Viele Technologieexperten sind überzeugt, dass dieses Regelwerk der EU helfen wird, beide Ziele zu erreichen: die negativen Auswirkungen der technologischen Entwicklung auf die Nutzer zu minimieren und gleichzeitig die dominante Stellung wichtiger Wettbewerber auf dem Markt aufzuholen.

Kurz darauf verabschiedete die Generalversammlung der Vereinten Nationen eine Resolution zur künstlichen Intelligenz (KI), in der sie weltweite Unterstützung für die internationalen Bemühungen zusagte, sicherzustellen, dass diese neue Technologie allen Ländern zugutekommt, die Menschenrechte achtet und „sicher, geschützt und vertrauenswürdig“ ist.

Herr Vu Ngoc Son, Technischer Direktor der National Cyber ​​Security Technology Joint Stock Company, sagte: „KI ist eine Technologie, die menschlichen Interessen dient und die Automatisierung vieler verschiedener Betriebsphasen unterstützt. Sie ist ein leistungsstarkes Werkzeug, das für viele verschiedene Zwecke eingesetzt wird, beispielsweise für die Bereitstellung von Q&A-Diensten oder die Softwareentwicklung. KI hat jedoch auch negative Seiten, wenn sie in die Hände von Angreifern fällt, die betrügerische Inhalte und Schadcodes erstellen, um Benutzer anzugreifen. KI ist daher kein Werkzeug, das speziell für die Produktentwicklung oder Kriminalität bestimmt ist. Die wichtige Frage ist vielmehr, wie man KI einsetzt.“

„Ich denke, dass Sanktionen und rechtliche Rahmenbedingungen der Geschwindigkeit der KI-Entwicklung nicht wirklich gerecht werden. Wir brauchen Zeit, um Richtlinien zu entwickeln und einzuführen, die die Risiken von KI begrenzen, wenn sie für schlechte Zwecke eingesetzt wird und Menschenrechte sowie Sicherheit, Ordnung und soziale Sicherheit beeinträchtigt“, sagte Vu Ngoc Son.

Dr. Dang Minh Tuan, Direktor des CMC ATI Institute, sagte: „Einerseits müssen wir weiterhin neue Technologien erforschen und entwickeln sowie KI-Tricks für schädliche Zwecke entwickeln und untersuchen. Andererseits müssen wir Ehrlichkeit in Wissenschaft und Arbeit fördern. Daher sind Anpassungen und Investitionen in Inhalte und spezifische Richtlinien für dieses Tool in Vietnam erforderlich. Insbesondere können wir KI-Tools auch zur Erkennung schädlicher Inhalte und Codes einsetzen. KI ist ein zweischneidiges Schwert: Sie schafft einen kontinuierlichen, kontinuierlichen und sich ständig verbessernden Prozess, der letztlich den menschlichen Interessen dient.“

Experten zufolge besteht die Notwendigkeit darin, die Entwicklung von Hochtechnologieprodukten verantwortungsvoll zu kontrollieren, denn wenn es nicht gelingt, die Technologie zu regulieren und zu beherrschen, wird dies zu unvorhersehbaren Konsequenzen führen, die der Wirtschaft Verluste zufügen und jeden Einzelnen sowie die Gesellschaft als Ganzes betreffen.

Die Veröffentlichung spezifischer und transparenter Vorschriften wird nicht nur dazu beitragen, die Risiken, die durch KI entstehen können, zu verhindern und zu minimieren, sondern Vietnam auch dabei helfen, die Aufmerksamkeit und Investitionen der weltweit führenden Technologieunternehmen auf sich zu ziehen und so die Entwicklung der heimischen Informationstechnologie- und KI-Branche zu fördern.

Letzter Artikel: Parallele Entwicklung und Kontrolle von KI

Quelle: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238