Hackers hebben AI gebruikt om Google's Gemini aan te vallen.

Volgens BGR heeft een nieuw onderzoeksrapport een alarmerende techniek onthuld, genaamd 'Fun-Tuning', die gebruikmaakt van AI (kunstmatige intelligentie) om automatisch zeer effectieve prompt-injectieaanvallen te genereren die gericht zijn op andere geavanceerde AI-modellen, waaronder Google's Gemini.

Deze methode maakt het 'hacken' van AI sneller, goedkoper en gemakkelijker dan ooit tevoren, wat een nieuwe fase inluidt in de strijd om AI op het gebied van cyberbeveiliging.

Het gevaar dat kwaadwillende actoren AI gebruiken om AI te saboteren.

Prompt injection is een techniek waarbij kwaadwillende actoren stiekem schadelijke instructies invoegen in de invoergegevens van een AI-model (bijvoorbeeld via commentaar in de broncode of verborgen tekst op het web). Het doel is om de AI te 'misleiden', waardoor deze voorgeprogrammeerde veiligheidsregels negeert. Dit kan leiden tot ernstige gevolgen, zoals het lekken van gevoelige gegevens, het verspreiden van misinformatie of het uitvoeren van andere gevaarlijke acties.

Hackers gebruiken AI om AI aan te vallen.

FOTO: SCREENSHOT VAN LINKEDIN

Voorheen vereiste het succesvol uitvoeren van deze aanvallen, met name op 'gesloten' modellen zoals Gemini of GPT-4, vaak veel complexe en tijdrovende handmatige tests.

Maar Fun-Tuning veranderde het speelveld volledig. Deze methode, ontwikkeld door een team van onderzoekers van verschillende universiteiten, maakt slim gebruik van de geavanceerde API (Application Programming Interface) die Google gratis ter beschikking stelt aan Gemini-gebruikers.

Door de subtiele reacties van het Gemini-model tijdens het afstemmingsproces te analyseren (bijvoorbeeld hoe het reageert op fouten in de data), kan Fun-Tuning automatisch de meest effectieve 'voorvoegsels' en 'achtervoegsels' identificeren om een ​​kwaadaardige bewering te maskeren. Dit verhoogt de kans aanzienlijk dat de AI meewerkt aan de kwaadaardige intentie van de aanvaller.

Uit testresultaten blijkt dat Fun-Tuning een succespercentage van maar liefst 82% behaalde op sommige versies van Gemini, een percentage dat veel hoger ligt dan de minder dan 30% die met traditionele aanvalsmethoden werd behaald.

Wat Fun-Tuning extra gevaarlijk maakt, is de extreem lage uitvoeringskosten. Omdat de tuning-API van Google gratis beschikbaar is, kunnen de rekenkosten voor een effectieve aanval slechts $10 bedragen. Bovendien hebben onderzoekers ontdekt dat een aanval die is ontworpen voor één versie van Gemini gemakkelijk met succes kan worden toegepast op andere versies, waardoor het risico op wijdverspreide aanvallen toeneemt.

Google heeft bevestigd op de hoogte te zijn van de dreiging die uitgaat van de Fun-Tuning-techniek, maar heeft nog geen commentaar gegeven op de vraag of het de werking van de tuning-API zal aanpassen. Het onderzoeksteam wees ook op de moeilijkheid om zich hiertegen te verdedigen: als de informatie die door Fun-Tuning wordt gebruikt uit het tuningproces wordt verwijderd, wordt de API minder bruikbaar voor legitieme ontwikkelaars. Omgekeerd, als de API ongewijzigd blijft, blijft het een springplank voor kwaadwillenden om te misbruiken.

De opkomst van Fun-Tuning is een duidelijke waarschuwing die aangeeft dat de confrontatie in cyberspace een nieuwe, complexere fase is ingegaan. AI is nu niet alleen een doelwit, maar ook een instrument en wapen in de handen van kwaadwillende actoren.

Bron: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm