Die Gefahr von Kriminellen mit „dunkler KI“

Speziell für Cyberangriffe trainierte KI-Tools werden immer effektiver, wodurch ihre Abwehr immer komplexer wird.

KI wird zu einem mächtigen Assistenten für Cyberkriminelle. Foto: Cato Networks .

Nicht nur normale Benutzer, sondern auch Cyberkriminelle nutzen KI zunehmend für immer ausgefeiltere Angriffe. In weniger als zwei Jahren haben sich KI-Tools zur Unterstützung von Hackern hinsichtlich Funktionalität und Effektivität rasant weiterentwickelt.

Adrian Hia, Direktor von Kaspersky Asia and Japan (APJ), sagte, dass Dark AI eine große Rolle bei der rasanten Verbreitung von Malware spiele. Statistiken von Kaspersky zeigen, dass täglich fast eine halbe Million Malware-Programme erstellt werden.

„Dark AI ist wie das Dark Web – die dunkle Seite des Webs, die wir täglich nutzen“, sagte Herr Hia.

Sergey Lozhkin, Leiter des Global Research and Analysis Team (GReAT) von Kaspersky für die Regionen Asien- Pazifik (APAC) und Naher Osten, Afrika, Türkei (META), sagte, dass sich Dark AI völlig von herkömmlichen KI-Chatbots wie ChatGPT oder Gemini unterscheide.

Die den Benutzern vertraute KI wurde entwickelt, um sie zu unterstützen und legitime Aufgaben auszuführen. Selbst wenn sie angewiesen wird, Schadsoftware zu erstellen oder illegale Aktivitäten auszuführen, werden die Benutzer Schwierigkeiten haben, ihre Ziele zu erreichen.

Unter Dark AI versteht man „in Wirklichkeit LLM oder Chatbots, die ausschließlich für böswillige Aktivitäten im Cyberspace entwickelt wurden“, so Lozhkin. Diese KIs werden darauf trainiert, Malware, Phishing-Inhalte oder sogar ein komplettes Framework zu generieren, das Cyberkriminelle für Betrugszwecke nutzen können.

Verstecktes KI-System nur für seriöse Hacker

Diese Systeme, die Herr Lozhkin Black Hat GPT oder „Black Hat GPT“ nennt, gibt es seit 2023. Vertreter von Kaspersky sagten, dass die KI damals sehr einfach war, sehr schlechten Code erstellte und sofort erkannt werden konnte.

In letzter Zeit sind Black-Hat-GPT-Systeme jedoch umfassender geworden und können zahlreiche Funktionen bereitstellen, von der Erstellung von Schadcode und betrügerischen Inhalten bis hin zur Nachahmung von Stimmen und Videos . Einige Namen sind beispielsweise WormGPT, DarkBard oder FraudGPT.

Sergey Lozhkin, ein Kaspersky-Forscher, warnt, dass die Qualität der Dark AI immer besser wird. Foto: Minh Khoi.

Eine der beunruhigendsten Entdeckungen von Kaspersky war die Existenz privater Dark-AI-Systeme, die nur seriösen Cyberkriminellen zur Verfügung stehen. Um Zugriff auf diese privaten KI-Systeme zu erhalten, müssen sich Hacker in Untergrundforen einen Ruf aufbauen.

„Auf diese Systeme kann man nur zugreifen, wenn man vertrauenswürdig ist. Man muss sich in Untergrundforen einen Ruf aufbauen, um Zugang zu diesen Assistenten zu erhalten“, sagte der Kaspersky-Experte.

Laut Lozhkin verfügt Kaspersky über eine „Digital Footprint Intelligence“-Einheit, die jahrelang Untergrundforen infiltriert und Aktivitäten überwacht und verfolgt. Sobald das Unternehmen Zugriff auf neue Systeme hat, investiert es weiterhin viel Zeit in die Erforschung der Funktionsweise, Funktionen und Wirksamkeit von Dark AI.

Dunkle KI wird stärker

Dark AI entwickelt sich für erfahrene Hacker zu einem effektiven Werkzeug. Wer nur über grundlegende Programmierkenntnisse verfügt, kann mit einem Ransomware-Generator möglicherweise nur Software erstellen, die von Antivirenprogrammen leicht erkannt wird. Erfahrene Hacker können mit Dark AI jedoch die Programmierproduktivität steigern und neue Schadsoftware erstellen.

„Diese Qualität hängt stark von der jeweiligen Plattform oder Dark AI ab. Einige generieren Code von sehr geringer Qualität, aber es gibt auch Tools, die 7–8 von 10 Punkten erreichen können“, teilte Herr Lozhkin Tri Thuc – Znews mit.

Ein Beispiel ist die Fähigkeit, polymorphen Code zu erstellen. Früher dauerte es lange, bis Hacker, nachdem ein Antivirenprogramm einen Schadcode erkannt hatte, den Code änderten. Dark AI kann dies nun „fast augenblicklich“ tun und eine Version erstellen, die schwerer zu erkennen ist.

Darüber hinaus überwinden dunkle LLMs die Sprachbarriere bei Phishing-Angriffen. Kaspersky-Experten sagen, dass die neue Generation von Phishing-E-Mails aufgrund des nahezu perfekten Englisch, das sogar „genau wie die Stimme des CEOs klingen kann“, schwerer zu erkennen sei.

Einige „All-in-One“-Dark-AI-Systeme können Code generieren, Stimmenimitation integrieren und Phishing-E-Mails versenden. Foto: Kaspersky.

Auch die Fähigkeit des spezialisierten Dark-AI-Systems, gefälschte Stimmen und Bilder zu erzeugen, wird immer perfekter. Herr Lozhkin sagte sogar, dass er dank seiner Erfahrung als Sicherheitsmitarbeiter „nicht mehr an Videoanrufe glaubt“.

Experten von Kaspersky gaben jedoch auch an, dass Benutzer einen betrügerischen Anruf immer noch anhand ihres persönlichen Verhaltens, ihrer Sprechgewohnheiten und einiger einzigartiger Merkmale erkennen können.

„Diese Funktionen sind schwer zu fälschen, also versuchen Sie, die Person, von der Sie glauben, dass sie gefälscht ist, direkt zu kontaktieren“, sagte der Sicherheitsforscher gegenüber Tri Thuc – Znews .

„KI-Wettrüsten“

Die Entwicklung der Dark AI hat ein technologisches Wettrüsten zwischen Cyberkriminellen und Cybersicherheitsexperten ausgelöst. „Ich persönlich nutze KI mittlerweile für alles – Forschung, Programmierung, Reverse Engineering. Meine Produktivität ist dieses Jahr zehn- bis zwanzigmal höher als zuvor“, gibt Lozhkin zu.

„Wenn Sie keine KI nutzen, um einen Verteidigungsmechanismus aufzubauen, während die Bösen KI zum Angriff nutzen, werden Sie verlieren. Dies ist der Beginn eines Wettlaufs zwischen den Guten und den Bösen, der KI nutzt“, warnte er.

Adrian Hia, Direktor von Kaspersky APJ, sagte, dass Dark AI dabei hilft, Malware schneller zu erstellen. Foto: Minh Khoi.

Google meldete, mehr als 20 bösartige Aktivitäten staatlich geförderter Gruppen blockiert zu haben, die versuchten, ChatGPT zur Erstellung von Schadsoftware und zur Planung von Angriffen zu nutzen. Im Jahr 2024 identifizierte das Unternehmen mithilfe von KI-Modellen 40 staatlich unterstützte APT-Gruppen.

Besonders besorgniserregend sind vollwertige Frameworks wie Xanthorox, das ein Komplettpaket für 200 Dollar im Monat anbietet. Das System integriert Sprachgenerierung, Phishing-E-Mails und andere Angriffstools in eine benutzerfreundliche Oberfläche.

Kaspersky-Experten warnen, dass die Entwicklung der Dunklen KI noch in den Kinderschuhen steckt. Adrian Hia prognostiziert, dass die Kosten für den Einsatz in den nächsten Jahren wahrscheinlich deutlich geringer sein werden. Wie weit die Entwicklung reichen wird, ist noch nicht absehbar.

„Aber ich bin mir absolut sicher, dass wir bereit sein werden, denn wir machen dasselbe, nur von der anderen Seite“, kommentierte Herr Lozhkin.

Quelle: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html