Enligt BGR har en ny forskningsrapport precis avslöjat en alarmerande teknik som kallas "Fun-Tuning", som använder AI (artificiell intelligens) för att automatiskt generera mycket effektiva snabba injektionsattacker riktade mot andra avancerade AI-modeller, inklusive Googles Gemini.
Den här metoden gör det snabbare, billigare och enklare än någonsin att ”hacka” AI, vilket markerar en ny eskalering i cybersäkerhetsstriden mot AI.
Faran med att illvilliga aktörer använder AI för att bryta AI.
Prompt injection är en teknik där illvilliga aktörer i smyg infogar skadliga instruktioner i indata för en AI-modell (t.ex. genom kommentarer i källkod, dold text på webben). Målet är att "lura" AI:n och tvinga den att ignorera förprogrammerade säkerhetsregler, vilket leder till allvarliga konsekvenser som att läcka känsliga data, tillhandahålla felinformation eller utföra andra farliga handlingar.
Hackare använder AI för att attackera AI.
FOTO: SKÄRMBILD FRÅN LINKEDIN
Tidigare krävdes ofta en hel del komplex och tidskrävande manuell testning för att framgångsrikt genomföra dessa attacker, särskilt på "slutna" modeller som Gemini eller GPT-4.
Men Fun-Tuning förändrade landskapet fullständigt. Metoden, som utvecklats av ett team av forskare från flera universitet, utnyttjar på ett smart sätt det förfinade applikationsprogrammeringsgränssnittet (API) som Google tillhandahåller kostnadsfritt för Gemini-användare.
Genom att analysera Gemini-modellens subtila reaktioner under finjusteringsprocessen (till exempel hur den reagerar på fel i data) kan Fun-Tuning automatiskt identifiera de mest effektiva "prefixen" och "suffixen" för att maskera ett skadligt uttalande. Detta ökar avsevärt sannolikheten för att AI:n kommer att följa angriparens skadliga avsikter.
Testresultat visar att Fun-Tuning uppnådde en framgångsgrad på upp till 82 % på vissa versioner av Gemini, en siffra som är betydligt högre än de mindre än 30 % som uppnås med traditionella attackmetoder.
Det som ytterligare ökar faran med Fun-Tuning är dess extremt låga exekveringskostnad. Eftersom Googles tuning-API tillhandahålls gratis kan beräkningskostnaden för att skapa en effektiv attack vara så låg som 10 dollar. Dessutom har forskare funnit att en attack designad för en version av Gemini enkelt kan tillämpas på andra versioner, vilket ökar risken för utbredda attacker.
Google har bekräftat att de är medvetna om hotet från Fun-Tuning-tekniken, men har ännu inte kommenterat huruvida den kommer att förändra hur tuning-API:et fungerar. Forskargruppen påpekade också svårigheten med att försvara sig mot detta: om informationen som utnyttjas av Fun-Tuning tas bort från tuningprocessen kommer API:et att bli mindre användbart för legitima utvecklare. Omvänt, om det förblir oförändrat, kommer det att fortsätta att vara en språngbräda för illvilliga aktörer att utnyttja.
Framväxten av Fun-Tuning är en tydlig varning som indikerar att konfrontationen i cyberrymden har gått in i en ny, mer komplex fas. AI är nu inte bara ett mål utan också ett verktyg och vapen i händerna på illvilliga aktörer.
[annons_2]
Källa: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm
Kommentar (0)