PromptLock – De eerste AI-gestuurde ransomware: een gevaarlijke wending in cyberbeveiliging

PromptLock – de eerste ransomware die volledig door AI wordt aangestuurd – toont de potentie om het volledige cyberaanvalsproces te automatiseren. Een gevaarlijk keerpunt in het moderne tijdperk van cybersecurity.

Een team van ingenieurs aan de New York University begon met het schrijven van een onderzoekspaper over het snijvlak van AI en ransomware. Maar binnen een week hadden ze een proof-of-concept voor een volwaardige AI-gestuurde ransomware-aanval gecreëerd – en dat deed de cybersecuritywereld in rep en roer achter.

Wanneer AI een ransomware wordt, versleutelt PromptLock niet alleen gegevens, maar schrijft het ook gepersonaliseerde losgeldberichten. (Bron: MSN)

Ransomware-aanval volledig aangestuurd door AI

Het door het NYU-team ontwikkelde AI-systeem kan alle vier de fasen van een ransomware-aanval uitvoeren:

• Malware maken in de Lua-taal, aangepast aan de configuratie van de slachtoffermachine
• Scan IT-systemen om waardevolle bestanden te identificeren
• Gegevensversleuteling
• Schrijf gepersonaliseerde losgeldbrieven op basis van gebruikersinformatie

In tegenstelling tot traditionele ransomware richt deze AI zich alleen op specifieke bestanden, waardoor hij moeilijker te detecteren is. Elke keer dat de malware wordt uitgevoerd, wordt deze anders gegenereerd (polymorf), waardoor beveiligingssoftware hem niet herkent.

"Het richt zich specifiek op een paar bestanden, waardoor het veel moeilijker te detecteren is. Bovendien is de aanval zeer gepersonaliseerd. Het is polymorf, dus elke keer dat je het op verschillende systemen uitvoert, of zelfs meerdere keren op hetzelfde systeem, zal de gegenereerde code nooit hetzelfde zijn", legt promovendus Md Raz van het onderzoeksteam uit.

Hoewel dit slechts een gecontroleerd experiment was, laat het zien hoe AI kan worden gebruikt om geavanceerdere cyberaanvallen uit te voeren. Deskundigen waarschuwen dat de technologie in verkeerde handen ernstige schade kan toebrengen aan organisaties en individuen.

PromptLock: Ransomware 3.0 in het AI-tijdperk

Om de aard en het werkingsmechanisme van dit systeem beter te begrijpen, moeten we PromptLock onderzoeken: 's werelds eerste ransomware die volledig wordt aangestuurd door kunstmatige intelligentie.

PromptLock maakt gebruik van OpenAI's omvangrijke gpt-oss:20b-taalmodel, geïmplementeerd via de Ollama API. In plaats van het volledige model (een gigabyte groot) te downloaden, maakt het systeem simpelweg verbinding met een server die het model draait om in realtime Lua-malware te genereren.

ESET – een Slowaaks cybersecuritybedrijf – bevestigde dat PromptLock een PoC is, maar waarschuwde dat daadwerkelijke implementatie ernstige gevolgen kan hebben. De indicatoren van aanvallen (IoC's) veranderen voortdurend tussen uitvoeringen, wat detectie en inperking bemoeilijkt.

Ook andere AI-systemen zoals Claude, ChatGPT en GitHub Copilot worden uitgebuit via ‘prompt injection’-technieken, waarbij kwaadwillenden AI ertoe verleiden ongeautoriseerde acties uit te voeren, zoals het verwijderen van bestanden, het stelen van gegevens of het uitvoeren van financiële transacties.

Dankzij AI: slechts één commando in natuurlijke taal is voldoende om de hele ransomware-aanvalscyclus te starten. (Bron: Thehackernews)

"Hoewel het slechts een prototype was, was het systeem geavanceerd genoeg om cybersecurityexperts ervan te overtuigen dat het echte malware was", aldus Md Raz, hoofdauteur van de PromptLock-studie. Dit toont aan dat AI een niveau heeft bereikt waarop het aanvallen kan automatiseren zonder menselijke tussenkomst.

Minh Hoan

Bron: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html