Microsoft hat ein internationales Cyberkriminellennetzwerk identifiziert, das in der Lage war, die Schutzmechanismen generativer KI-Dienste zu umgehen und schädliche Inhalte zu erstellen, darunter sensible Fotos von Prominenten und andere pornografische Inhalte.

Hacker sammelten Dienstanmeldeinformationen aus öffentlichen Quellen und nutzten sie, um auf generative KI-Dienste zuzugreifen, darunter Azure OpenAI von Microsoft.

Anschließend modifizieren sie die Fähigkeiten der KI-Produkte und verkaufen den Zugriff an andere kriminelle Banden, wobei sie ihnen Anweisungen zur Erstellung bösartiger Inhalte geben.

Hacker d3sign/Moment RF
Microsoft enthüllte öffentlich, dass vier Hacker Tools verkauften, um den KI-Dienst zu „überwinden“. Foto: d3sign/Moment RF

Laut Microsoft handelt es sich dabei um: Arian Yadegarnia (alias Fiz) aus dem Iran, Alan Krysiak (Drago) aus Großbritannien, Ricky Yuen (cg-dot) aus Hongkong (China) und Phat Phung Tan (Asakuri) aus Vietnam.

Alle vier werden beschuldigt, dem Cybercrime-Netzwerk Storm-2139 anzugehören. Zwei weitere Personen stammen aus den USA, deren Identität Microsoft zum Schutz der Ermittlungen jedoch nicht preisgegeben hat.

Laut Microsoft ist Storm-2139 in drei Hauptgruppen unterteilt: Entwickler, Anbieter und Endnutzer. Entwickler erstellen illegale Tools, um den generativen KI-Dienst zu missbrauchen. Anbieter modifizieren ihn und bieten ihn den Endnutzern zu unterschiedlichen Preisen und mit unterschiedlichen Leistungen an. Schließlich nutzen Nutzer die Tools, um schädliche Inhalte zu erstellen, die sich oft um Pornostars und -bilder drehen.

Die Informationen wurden von Microsoft veröffentlicht, da die Besorgnis über den Missbrauch generativer KI zur Erstellung gefälschter Bilder von Prominenten und normalen Menschen sowie von Kinderpornografie zunimmt.

Unternehmen wie Microsoft und OpenAI verbieten diese Praktiken und ergreifen technische Maßnahmen, um sie zu verhindern, aber Hackergruppen wie die oben genannte finden immer noch Wege, „die Regeln zu umgehen“.

Laut Steven Masada, stellvertretender General Counsel der Digital Crimes Unit (DCU) von Microsoft, ist man sich der schwerwiegenden und dauerhaften Auswirkungen bewusst, die missbräuchliche Bilder auf die Opfer haben.

Das Unternehmen setzt sich für den Schutz der Benutzer ein, indem es KI-Sicherheitsmaßnahmen in die Plattform einbettet und den Dienst vor illegalen und schädlichen Inhalten schützt.

Im Dezember 2024 reichte die DCU im Eastern District of Virginia (USA) Klage gegen zehn nicht identifizierte Personen ein, die an Aktivitäten beteiligt waren, die gegen US-amerikanisches Recht und die Richtlinien von Microsoft verstießen.

Das Gericht erließ eine einstweilige Verfügung und eine einstweilige Unterlassungsverfügung, die es Microsoft gestattete, eine für kriminelle Aktivitäten genutzte Website zu beschlagnahmen und so die Geschäftstätigkeit des Konzerns zu unterbrechen.

Bemerkenswerterweise schickten nach dieser Aktion einige Mitglieder, die verdächtigt wurden, zu Storm-2139 zu gehören, E-Mails an Microsoft-Berater und beschuldigten sich gegenseitig.

„Diese Reaktion unterstreicht die Auswirkungen der rechtlichen Schritte von Microsoft und zeigt, wie Maßnahmen cyberkriminelle Netzwerke effektiv stören können, indem sie die Infrastruktur beschlagnahmen und eine starke abschreckende Wirkung auf die Mitglieder erzielen“, schrieb Microsoft am 27. Februar in einem Blogbeitrag.

(Laut Microsoft, Bloomberg)