Hackeři používají umělou inteligenci k útoku na Gemini od Googlu

Podle serveru BGR nová výzkumná zpráva právě zveřejnila alarmující techniku s názvem „Fun-Tuning“, která využívá umělou inteligenci (AI) k automatickému vytváření extrémně účinných útoků prompt injection zaměřených na další pokročilé modely umělé inteligence, včetně Gemini od Googlu.

Tato metoda umožňuje „prolomit“ umělou inteligenci rychleji, levněji a snadněji než kdy dříve, což představuje novou eskalaci v kybernetické válce související s umělou inteligencí.

Nebezpečí, když zloduchové použijí umělou inteligenci k jejímu prolomení

Prompt injection je technika, při které útočník vplíží škodlivé instrukce do vstupních dat modelu umělé inteligence (např. prostřednictvím komentářů ve zdrojovém kódu, skrytého textu na webu). Cílem je „oklamat“ umělou inteligenci a donutit ji obejít předprogramovaná bezpečnostní pravidla, což vede k vážným následkům, jako je únik citlivých dat, poskytování nepravdivých informací nebo jiné nebezpečné chování.

Hacker đang dùng chính AI để tấn công Gemini của Google - Ảnh 1. — Hackeři používají umělou inteligenci k útoku na umělou inteligenci

Dříve úspěšné provedení těchto útoků, zejména na „uzavřených“ modelech, jako jsou Gemini nebo GPT-4, často vyžadovalo spoustu složitého a časově náročného manuálního testování.

Ale Fun-Tuning zcela změnil pravidla hry. Metoda, vyvinutá týmem výzkumníků z několika univerzit, chytře využívá velmi propracované rozhraní pro programování aplikací (API), které Google poskytuje uživatelům Gemini zdarma.

Analýzou jemných reakcí modelu Gemini během ladění (např. jak reaguje na chyby v datech) dokáže Fun-Tuning automaticky určit nejúčinnější „předpony“ a „přípony“ k maskování škodlivého příkazu. To výrazně zvyšuje pravděpodobnost, že umělá inteligence vyhoví škodlivým úmyslům útočníka.

Výsledky testů ukazují, že Fun-Tuning dosahuje u některých verzí Gemini úspěšnosti až 82 %, což je číslo, které překračuje méně než 30 % tradičních metod útoku.

Co dělá Fun-Tuning ještě nebezpečnějším, je jeho nízká cena. Vzhledem k tomu, že ladicí API od Googlu je volně dostupné, výpočetní náklady na vytvoření efektivního útoku mohou být pouhých 10 dolarů. Vědci navíc zjistili, že útok určený pro jednu verzi Gemini lze snadno úspěšně aplikovat i na jiné verze, což otevírá možnost rozsáhlých útoků.

Společnost Google potvrdila, že si je vědoma hrozby, kterou představuje Fun-Tuning, ale zatím se nevyjádřila k tomu, zda změní fungování ladicího API. Tým také poukazuje na obranné dilema: odstranění informací, které Fun-Tuning zneužívá, z procesu ladění by API učinilo méně užitečným pro legitimní vývojáře. Naopak, ponechání API tak, jak je, by i nadále představovalo odrazový můstek pro zneužití zlými hráči.

Vznik Fun-Tuningu je jasným varováním, že konfrontace v kyberprostoru vstoupila do nové, složitější fáze. Umělá inteligence nyní není jen cílem, ale také nástrojem a zbraní v rukou zlomyslných aktérů.

Zdroj: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm