Hackerii au folosit inteligența artificială pentru a ataca Gemini de la Google.

Conform BGR , un nou raport de cercetare a dezvăluit o tehnică alarmantă numită „Fun-Tuning”, care folosește inteligența artificială (IA) pentru a genera automat atacuri de tip prompt injection extrem de eficiente, care vizează alte modele avansate de IA, inclusiv Gemini de la Google.

Această metodă face ca „hacking-ul” inteligenței artificiale să fie mai rapid, mai ieftin și mai ușor ca niciodată, marcând o nouă escaladare în bătălia securității cibernetice care implică inteligența artificială.

Pericolul ca actorii rău intenționați să utilizeze inteligența artificială pentru a o defecta.

Injectarea promptă este o tehnică prin care actorii rău intenționați introduc pe ascuns instrucțiuni dăunătoare în datele de intrare ale unui model de inteligență artificială (de exemplu, prin comentarii în codul sursă, text ascuns pe web). Scopul este de a „păcăli” inteligența artificială, forțând-o să ignore regulile de siguranță preprogramate, ceea ce duce la consecințe grave, cum ar fi scurgerea de date sensibile, furnizarea de informații greșite sau efectuarea altor acțiuni periculoase.

Hackerii folosesc inteligența artificială pentru a ataca inteligența artificială.

FOTO: CAPTURĂ DE ECRAN DE PE LINKEDIN

Anterior, executarea cu succes a acestor atacuri, în special pe modele „închise” precum Gemini sau GPT-4, necesita adesea un volum mare de teste manuale complexe și consumatoare de timp.

Însă Fun-Tuning a schimbat complet peisajul. Dezvoltată de o echipă de cercetători de la mai multe universități, această metodă exploatează inteligent interfața de programare a aplicațiilor (API) rafinată pe care Google o oferă gratuit utilizatorilor Gemini.

Prin analizarea răspunsurilor subtile ale modelului Gemini în timpul procesului de reglare (de exemplu, modul în care răspunde la erorile din date), Fun-Tuning poate identifica automat cele mai eficiente „prefixe” și „sufixe” pentru a masca o declarație rău intenționată. Acest lucru crește semnificativ probabilitatea ca inteligența artificială să respecte intenția rău intenționată a atacatorului.

Rezultatele testelor arată că Fun-Tuning a obținut o rată de succes de până la 82% pe unele versiuni de Gemini, o cifră mult superioară celei de mai puțin de 30% obținute prin metodele tradiționale de atac.

Ceea ce sporește pericolul Fun-Tuning este costul său extrem de scăzut de execuție. Deoarece API-ul de optimizare Google este oferit gratuit, costul de calcul pentru a crea un atac eficient poate fi de doar 10 dolari. În plus, cercetătorii au descoperit că un atac conceput pentru o versiune de Gemini poate fi aplicat cu ușurință și cu succes altor versiuni, ceea ce crește riscul unor atacuri pe scară largă.

Google a confirmat că este conștient de amenințarea reprezentată de tehnica Fun-Tuning, dar nu a comentat încă dacă aceasta va schimba modul în care funcționează API-ul de optimizare. Echipa de cercetare a subliniat, de asemenea, dificultatea de a se apăra împotriva acestui lucru: dacă informațiile exploatate de Fun-Tuning sunt eliminate din procesul de optimizare, API-ul va deveni mai puțin util pentru dezvoltatorii legitimi. În schimb, dacă rămâne neschimbat, va continua să fie o rampă de lansare pentru actorii rău intenționați.

Apariția Fun-Tuning este un avertisment clar, indicând faptul că confruntarea în spațiul cibernetic a intrat într-o nouă fază, mai complexă. IA nu este acum doar o țintă, ci și un instrument și o armă în mâinile actorilor rău intenționați.

Sursă: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm