Pericolul ca infractorii să posede o „IA întunecată”

Instrumentele de inteligență artificială antrenate special pentru atacuri cibernetice devin din ce în ce mai eficiente, ceea ce le face mai complex de contracarat.

Inteligența artificială devine un asistent puternic pentru infractorii cibernetici. Foto: Cato Networks .

Nu doar utilizatorii obișnuiți, ci și infractorii cibernetici folosesc din ce în ce mai mult inteligența artificială pentru a crea atacuri mai sofisticate ca niciodată. În mai puțin de 2 ani, instrumentele de inteligență artificială pentru a sprijini hackerii s-au dezvoltat rapid în ceea ce privește caracteristicile și eficiența.

Adrian Hia, directorul Kaspersky Asia și Japonia (APJ), a declarat că inteligența artificială întunecată joacă un rol imens în creșterea rapidă a programelor malware. Datele de la Kaspersky arată că aproape o jumătate de milion de programe malware sunt create zilnic.

„Dark AI este ca dark web-ul - partea întunecată a internetului pe care o folosim zilnic”, a spus dl Hia.

Sergey Lozhkin, șeful echipei globale de cercetare și analiză (GReAT) a Kaspersky pentru Asia- Pacific (APAC) și Orientul Mijlociu, Africa, Turcia (META), a declarat că Dark AI este complet diferit de chatboții convenționali cu inteligență artificială, cum ar fi ChatGPT sau Gemini.

Inteligența artificială cu care utilizatorii sunt familiarizați este creată pentru a-i asista și a îndeplini sarcini legitime, iar chiar dacă li se ordonă să creeze programe malware sau să desfășoare activități ilegale, utilizatorii vor întâmpina dificultăți în atingerea obiectivelor lor.

Între timp, Dark AI „este de fapt LLM sau chatbots creați exclusiv pentru a desfășura activități rău intenționate în spațiul cibernetic”, a spus dl Lozhkin. Aceste IA sunt antrenate să creeze programe malware, conținut de phishing sau chiar un framework complet pe care infractorii cibernetici îl pot utiliza pentru fraudă.

Sistem de inteligență artificială ascuns doar pentru hackeri reputați

Aceste sisteme, pe care dl. Lozhkin le numește Black Hat GPT sau „black hat GPT”, există din 2023. Reprezentanții Kaspersky au declarat că, la acea vreme, inteligența artificială era foarte simplă, crea cod foarte prost și putea fi detectată imediat.

Cu toate acestea, recent, sistemele GPT de tip „black hat” au devenit mai complete, capabile să ofere numeroase funcții, de la crearea de programe malware și conținut fraudulos, până la imitarea vocilor și a videoclipurilor . Printre acestea se numără WormGPT, DarkBard sau FraudGPT.

Sergey Lozhkin, cercetător Kaspersky, avertizează că inteligența artificială întunecată (Dark AI) este din ce în ce mai bună. Foto: Minh Khoi.

Una dintre cele mai tulburătoare descoperiri ale Kaspersky a fost existența unor sisteme private de inteligență artificială întunecată, disponibile doar infractorilor cibernetici reputați. Pentru a obține acces la aceste sisteme private de inteligență artificială, hackerii trebuie să-și construiască o reputație pe forumuri clandestine.

„Poți accesa aceste tipuri de sisteme doar dacă ești de încredere. Trebuie să-ți construiești o reputație pe forumuri clandestine pentru a avea acces la acești asistenți”, a spus expertul Kaspersky.

Lozhkin a spus că Kaspersky are o unitate de „Inteligență a Amprentei Digitale” care petrece ani de zile infiltrându-se în forumuri clandestine și monitorizând și urmărind activitatea. Odată ce compania are acces la sisteme noi, continuă să petreacă mult timp înțelegând cum este utilizată inteligența artificială întunecată, funcțiile acesteia și eficacitatea sa.

Inteligența artificială întunecată devine mai puternică

Inteligența artificială întunecată (Dark AI) devine un instrument eficient pentru hackerii experimentați. Pentru cei cu doar cunoștințe de bază de programare, solicitarea unui generator de ransomware poate crea doar software ușor de recunoscut de antivirus. Cu toate acestea, pentru hackerii experimentați și pricepuți, Dark AI poate crește productivitatea programării, creând noi programe malware.

„Această calitate depinde foarte mult de fiecare platformă specifică sau de Dark AI. Unele generează cod de calitate foarte scăzută, dar există și instrumente care pot ajunge la 7-8 puncte din 10”, a declarat dl. Lozhkin pentru Tri Thuc - Znews .

Un exemplu este capacitatea de a crea cod polimorfic. Anterior, când un fragment de cod malițios era detectat de antivirus, hackerii trebuiau să petreacă mult timp modificând codul. Acum, Dark AI poate face acest lucru „aproape instantaneu” pentru a crea o versiune mai greu de detectat.

În plus, specialiștii în drept privat (LLM) depășesc bariera lingvistică în atacurile de phishing. Experții Kaspersky spun că noua generație de e-mailuri de phishing este mai greu de observat din cauza limbii engleze aproape perfecte, care poate chiar „să semene exact cu vocea directorului general”.

Unele sisteme Dark AI „all-in-one” pot genera cod, pot integra uzurparea vocii și pot trimite e-mailuri de phishing. Foto: Kaspersky.

Capacitatea sistemului specializat Dark AI de a crea voci și imagini false este, de asemenea, din ce în ce mai perfecționată. Domnul Lozhkin a spus chiar că „nu mai crede în apelurile video” datorită experienței sale ca agent de securitate.

Cu toate acestea, experții de la Kaspersky au mai spus că utilizatorii pot recunoaște în continuare un apel fraudulos prin comportamentul personal, obiceiurile de vorbire și unele caracteristici unice.

„Aceste caracteristici sunt dificil de falsificat, așa că încercați să contactați direct persoana despre care credeți că este falsificată”, a declarat cercetătorul în domeniul securității pentru Tri Thuc – Znews .

„Cursa înarmării IA”

Dezvoltarea inteligenței artificiale întunecate (Dark AI) a declanșat o cursă tehnologică între infractorii cibernetici și experții în securitate cibernetică. „Personal, folosesc inteligența artificială pentru orice acum - cercetare, programare, inginerie inversă. Productivitatea mea în acest an este de 10-20 de ori mai mare decât înainte”, recunoaște Lozhkin.

„Dacă nu folosești inteligența artificială pentru a crea un mecanism de apărare, în timp ce răufăcătorii folosesc inteligența artificială pentru a ataca, vei pierde. Acesta este începutul unei curse între cei buni și cei răufăcători care folosesc inteligența artificială”, a avertizat el.

Adrian Hia, directorul Kaspersky APJ, a declarat că inteligența artificială întunecată ajută la crearea mai rapidă a programelor malware. Foto: Minh Khoi.

Google a raportat blocarea a peste 20 de activități rău intenționate ale unor grupuri sponsorizate de stat care încercau să utilizeze ChatGPT pentru a crea programe malware și a planifica atacuri. În 2024, au identificat 40 de grupuri APT susținute de guvern folosind modele de inteligență artificială.

Deosebit de îngrijorătoare sunt framework-urile complete precum Xanthorox, care oferă un serviciu „pachet complet” pentru 200 de dolari pe lună, integrând generarea de voce, e-mailuri de phishing și alte instrumente de atac într-o interfață ușor de utilizat.

Experții Kaspersky avertizează că Dark AI este încă la început. Adrian Hia prezice că în următorii ani costul utilizării sale va fi mult mai mic și nu se știe încă cât de mult se va dezvolta.

„Dar de ceea ce sunt absolut sigur este că vom fi pregătiți, pentru că facem același lucru, dar din partea opusă”, a comentat dl Lozhkin.

Sursă: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html