PromptLock – Den första AI-drivna ransomwaren: En farlig vändning inom cybersäkerhet

Ett team av ingenjörer vid New York University började utveckla en forskningsartikel om samspelet mellan AI och ransomware. Men inom en vecka hade de skapat ett proof-of-concept för en fullfjädrad AI-driven ransomware-attack – vilket lämnade cybersäkerhetsvärlden i chock.

När AI blir en lösensumma krypterar PromptLock inte bara data, utan skriver även personliga lösensummabrev. (Källa: MSN)

Ransomware-attack driven helt av AI

AI-systemet som utvecklats av NYU-teamet kan utföra alla fyra stegen i en ransomware-attack:

Skapa skadlig kod med hjälp av Lua-språket, anpassat efter offrets maskinkonfiguration
Skanna IT-system för att identifiera filer med högt värde
Datakryptering
Skriv personliga lösensummebrev baserat på användarinformation

Till skillnad från traditionell ransomware riktar sig denna AI endast in sig på specifika filer, vilket gör den svårare att upptäcka. Varje gång den körs genereras skadlig kod på olika sätt (polymorf), vilket hjälper den att undvika att bli igenkänd av säkerhetsprogram.

"Den riktar sig specifikt mot ett fåtal filer, så den är mycket svårare att upptäcka. Dessutom är attacken mycket personanpassad. Den är polymorf, så varje gång du kör den på olika system, eller till och med flera gånger på samma system, kommer den genererade koden aldrig att vara densamma", förklarar doktoranden Md Raz i forskargruppen.

Även om detta bara var ett kontrollerat experiment, visar det hur AI kan användas för att skapa mer sofistikerade cyberattacker. Experter varnar för att tekniken i fel händer kan orsaka allvarliga skador på organisationer och individer.

PromptLock: Ransomware 3.0 i AI-eran

För att bättre förstå systemets natur och funktionsmekanism behöver vi utforska PromptLock – världens första ransomware som helt kontrolleras av artificiell intelligens.

PromptLock använder OpenAI:s stora språkmodell gpt-oss:20b, distribuerad via Ollama API. Istället för att ladda ner hela den gigabytestora modellen ansluter systemet helt enkelt till en server som kör modellen för att generera Lua-skadlig programvara i realtid.

ESET – ett slovakiskt cybersäkerhetsföretag – bekräftade att PromptLock är en PoC men varnade för att om den faktiskt skulle driftsättas kan det få allvarliga konsekvenser. Attackindikatorerna (IoC:erna) ändras ständigt mellan exekveringar, vilket gör upptäckt och inneslutning svårare.

Även andra AI-system som Claude, ChatGPT och GitHub Copilot utnyttjas genom så kallade ”prompt injection”-tekniker – där onda aktörer lurar AI att utföra olagliga handlingar som att radera filer, stjäla data eller göra finansiella transaktioner.

Tack vare AI: Bara ett kommando i naturligt språk räcker för att starta hela ransomware-attackcykeln. (Källa: Thehackernews)

”Även om det bara var en prototyp var systemet tillräckligt sofistikerat för att övertyga cybersäkerhetsexperter om att det var riktig skadlig kod”, säger Md Raz, huvudförfattare till PromptLock-studien. Detta visar att AI har nått en nivå där den kan automatisera attacker utan mänsklig inblandning.

Minh Hoan

Källa: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html