Hacker nutzen KI, um Googles Gemini anzugreifen

Laut BGR wurde in einem neuen Forschungsbericht eine alarmierende Technik namens „Fun-Tuning“ veröffentlicht, die KI (Künstliche Intelligenz) selbst nutzt, um automatisch extrem effektive Prompt-Injection-Angriffe zu erzeugen, die auf andere fortgeschrittene KI-Modelle, einschließlich Googles Gemini, abzielen.

Die Methode macht das „Knacken“ von KI schneller, billiger und einfacher als je zuvor und markiert damit eine neue Eskalation im Krieg um die Cybersicherheit im Zusammenhang mit KI.

Die Gefahr, wenn Bösewichte KI nutzen, um KI zu brechen

Prompt Injection ist eine Technik, bei der ein Angreifer schädliche Anweisungen in die Eingabedaten eines KI-Modells einschleust (z. B. durch Kommentare im Quellcode oder versteckten Text im Web). Ziel ist es, die KI zu täuschen und sie dazu zu bringen, vorprogrammierte Sicherheitsregeln zu umgehen. Dies kann schwerwiegende Folgen haben, wie etwa das Auslesen sensibler Daten, die Bereitstellung falscher Informationen oder andere gefährliche Aktionen.

Hacker nutzen KI, um KI anzugreifen

FOTO: LINKEDIN-SCREENSHOT

Bisher erforderte die erfolgreiche Durchführung solcher Angriffe, insbesondere auf „geschlossene“ Modelle wie Gemini oder GPT-4, oft viele komplexe und zeitaufwändige manuelle Tests.

Doch Fun-Tuning hat alles verändert. Die Methode, entwickelt von einem Forscherteam mehrerer Universitäten, nutzt geschickt die von Google kostenlos für Gemini-Nutzer bereitgestellte Programmierschnittstelle (API) zur Feinabstimmung.

Durch die Analyse der subtilen Reaktionen des Gemini-Modells während des Tunings (z. B. wie es auf Datenfehler reagiert) kann Fun-Tuning automatisch die effektivsten Präfixe und Suffixe ermitteln, um einen schädlichen Befehl zu verschleiern. Dies erhöht die Wahrscheinlichkeit, dass die KI den böswilligen Absichten eines Angreifers nachkommt, erheblich.

Die Testergebnisse zeigen, dass Fun-Tuning bei einigen Versionen von Gemini eine Erfolgsquote von bis zu 82 % erreicht, ein Wert, der die weniger als 30 % der herkömmlichen Angriffsmethoden übertrifft.

Besonders gefährlich an Fun-Tuning sind die geringen Kosten. Da Googles Tuning-API frei verfügbar ist, können die Rechenkosten für einen effektiven Angriff nur etwa 10 US-Dollar betragen. Darüber hinaus stellten die Forscher fest, dass ein für eine Gemini-Version entwickelter Angriff problemlos auch auf andere Versionen angewendet werden kann, wodurch die Möglichkeit großflächiger Angriffe entsteht.

Google hat bestätigt, sich der von Fun-Tuning ausgehenden Bedrohung bewusst zu sein, sich aber noch nicht dazu geäußert, ob die Funktionsweise der Tuning-API geändert wird. Das Team weist zudem auf das Dilemma hin: Würde man die von Fun-Tuning ausgenutzten Informationen aus dem Tuning-Prozess entfernen, wäre die API für legitime Entwickler weniger nützlich. Andererseits bleibe sie, wenn sie unverändert bliebe, weiterhin ein Einfallstor für Angreifer.

Das Aufkommen von Fun-Tuning ist ein deutliches Warnsignal dafür, dass die Auseinandersetzung im Cyberspace in eine neue, komplexere Phase eingetreten ist. Künstliche Intelligenz ist nun nicht nur Zielscheibe, sondern auch Werkzeug und Waffe in den Händen von Cyberkriminellen.

Quelle: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm