Cyberkriminelle haben mehr „Tricks“ von KI

Im Mai 2024 brachten weltberühmte Technologiegiganten nacheinander neue Versionen künstlicher Intelligenz (KI) auf den Markt, wie etwa OpenAI mit GPT-4o, Google mit Gemini 1.5 Pro … mit vielen „superintelligenten“ Funktionen zur Optimierung des Benutzererlebnisses. Es lässt sich jedoch nicht leugnen, dass diese Technologie von Cyberkriminellen in zahlreichen Online-Betrugsszenarien eingesetzt wird.

Steigendes Risiko

Bei einer kürzlich abgehaltenen Konferenz wies der stellvertretende Minister für Information und Kommunikation , Pham Duc Long, darauf hin, dass Cyberangriffe immer ausgefeilter und komplexer würden und daher immer häufiger vorkämen. Insbesondere bei KI-Unterstützung steigen die Risiken für die Benutzer exponentiell an. „KI-Technologie wird von Cyberkriminellen genutzt, um auf einfache Weise neue Schadsoftware und neue und ausgeklügelte Phishing-Angriffe zu erstellen …“, warnte Vizeminister Pham Duc Long.

Laut einem Bericht der Abteilung für Informationssicherheit des Ministeriums für Information und Kommunikation haben Cybersicherheitsrisiken im Zusammenhang mit KI weltweit Schäden in Höhe von über 1 Billion USD verursacht, davon 8.000 bis 10.000 Milliarden VND allein in Vietnam. Die heute am weitesten verbreitete Anwendung ist der Einsatz von KI zur Fälschung von Stimmen und Gesichtern zu Betrugszwecken. Prognosen zufolge wird es bis 2025 etwa 3.000 Angriffe/Sekunde, 12 Malware-Angriffe/Sekunde und 70 neue Sicherheitslücken und Schwachstellen/Tag geben.

Laut Herrn Nguyen Huu Giap, Direktor von BShield – einem Spezialisten für Sicherheitsunterstützung bei Anwendungen – ist die Erstellung gefälschter Bilder und Stimmen dank der Weiterentwicklung der KI kein Problem mehr. Betrüger können leicht an Benutzerdaten gelangen, indem sie öffentliche Informationen in sozialen Netzwerken veröffentlichen oder indem sie Tricks anwenden, beispielsweise Online-Bewerbungsgespräche führen und unter dem Namen „Behörden“ angerufen werden. In einer von BShield durchgeführten Simulation kann der Betrüger das über einen Videoanruf verfügbare Gesicht auf das CCCD-Papier übertragen, es in den Körper einer sich bewegenden Person einfügen, um das eKYC-Tool auszutricksen und vom System als echte Person erkannt zu werden.

Betrügerische Methoden unter Verwendung der Deepfake-Technologie nehmen zu und werden immer ausgefeilter. Foto von : LE TINH

Aus Benutzersicht befürchtet Herr Nguyen Thanh Trung, ein IT-Spezialist in Ho-Chi-Minh-Stadt, dass Kriminelle chatGPT ausnutzen könnten, um betrügerische E-Mails zu erstellen, deren Inhalt und Schreibstil echten E-Mails von Banken oder seriösen Organisationen ähneln. Diese E-Mails enthalten wahrscheinlich Schadsoftware. Wenn Benutzer darauf klicken, werden ihre Daten mit Sicherheit gestohlen und ihr Vermögen entwendet. „KI-Software wird immer besser. Sie kann gefälschte Videos mit Gesichtern und Stimmen erstellen, die echten Menschen zu 95 % ähneln. Die Gesten ändern sich in Echtzeit, sodass es für die Zuschauer sehr schwierig ist, sie zu erkennen“, sagte Herr Trung.

Bald vollständiger Rechtskorridor

Um das Risiko von High-Tech-Betrug zu begrenzen, wies der Sicherheitsexperte Pham Dinh Thang darauf hin, dass Benutzer ihr Wissen über KI regelmäßig aktualisieren und nicht auf Links unbekannter Herkunft klicken sollten. Unternehmen sollten ein Budget für die Gewährleistung der Datensicherheit und des Systembetriebs einplanen. Darüber hinaus müssen die Mitarbeiter des Unternehmens umfassend geschult werden, um auf die tatsächlichen Schwachstellen im System zugreifen zu können und so die Fähigkeit zu verbessern, verschiedene Arten von Cyberangriffen zu erkennen.

Herr Ta Cong Son, Leiter der Abteilung für KI-Entwicklung im Bereich Betrugsbekämpfung, sagte, dass KI dank ihrer äußerst intelligenten Unterstützungsfunktionen tief in das Leben der Benutzer und die Abläufe in Unternehmen, Agenturen und Einheiten eindringe. Insbesondere ist die KI-Technologie derzeit sehr zugänglich und leicht zu verwenden, was böswilligen Akteuren die Möglichkeit gibt, sie leicht für betrügerische Zwecke auszunutzen. „Betrüger ändern außerdem ständig ihre Angriffsmethoden. Benutzer müssen ihre Informationen regelmäßig aktualisieren, um zu wissen, wie sie sich davor schützen können“, empfiehlt Herr Son.

Laut Experten haben die kürzlich aktualisierten Modelle GPT-4o und Gemini 1.5 Pro bewiesen, dass die Intelligenz der KI keine Grenzen kennt. Daher müssen Verwaltungsbehörden nicht nur Unternehmen dazu ermutigen, KI-basierte Tools und Lösungen zur Betrugsbekämpfung zu entwickeln, sondern auch den Rechtskorridor für KI bald abschließen, um dem Trend voraus zu sein.

Oberstleutnant Nguyen Anh Tuan, stellvertretender Direktor des Nationalen Bevölkerungsdatenzentrums, sagte, es sei notwendig, bald Dokumente herauszugeben, die die Ethik und Verantwortung in- und ausländischer Dienstleister im Prozess der Entwicklung, Produktion, Anwendung und Nutzung von KI regeln. Gleichzeitig bedarf es konkreter Regelungen zu technischen Standards für Systeme, die KI-Dienste nutzen, anwenden, vernetzen und bereitstellen. „Um den Risiken von KI entgegenzuwirken, müssen KI-Projekte erforscht und angewendet werden. Da KI von Menschen geschaffen wird und ein Produkt des Wissens ist, wird es Variationen von „guter KI“ und „schlechter KI“ geben. Daher ist es möglich, die Entwicklung künstlicher Intelligenz durch künstliche Intelligenz selbst zu verhindern“, bemerkte Oberst Tuan.

Herausforderungen der Cybersicherheit

Oberstleutnant Nguyen Anh Tuan räumte ein, dass KI eine Herausforderung für die Cybersicherheit darstellt. Demnach kann KI-gestützte Schadsoftware in Dokumentdateien installiert werden. Wenn Benutzer Dokumentdateien hochladen, dringt diese Malware in das System ein. Darüber hinaus können Hacker mithilfe spezieller KI-Technologien Systeme simulieren und Sicherheitslücken ausnutzen. KI kann viele Anwendungen mit gefälschten Bildern und Namen von Anwendungen und Websites des Ministeriums für öffentliche Sicherheit erstellen, damit die Leute sie herunterladen, installieren und Informationen wie Ausweisnummer und Anmeldekennwort angeben können. „KI wird auch ihre eigene Software und hybride Schadsoftware entwickeln, mit ausgefeilteren Mechanismen zur Umgehung der Sicherheit und flexibleren Quellcodeänderungen“, warnte Oberstleutnant Nguyen Anh Tuan.

Quelle: https://nld.com.vn/toi-pham-mang-co-them-bi-kip-tu-ai-196240601195415035.htm