Hackeři používají umělou inteligenci k útoku na Gemini od Googlu

Podle serveru BGR nová výzkumná zpráva právě zveřejnila alarmující techniku ​​zvanou „Fun-Tuning“, která využívá umělou inteligenci (AI) k automatickému vytváření extrémně účinných útoků s prompt injection cílících na další pokročilé modely umělé inteligence, včetně Gemini od Googlu.

Tato metoda umožňuje „prolomit“ umělou inteligenci rychleji, levněji a snadněji než kdy dříve, což představuje novou eskalaci v kybernetické válce související s umělou inteligencí.

Nebezpečí, když zloduchové použijí umělou inteligenci k jejímu prolomení

Prompt injection je technika, při které útočník vpašuje škodlivé instrukce do vstupních dat modelu umělé inteligence (např. prostřednictvím komentářů ve zdrojovém kódu, skrytého textu na webu). Cílem je „oklamat“ umělou inteligenci, aby obešla předprogramovaná bezpečnostní pravidla, což vede k vážným následkům, jako je únik citlivých dat, poskytování nepravdivých informací nebo provádění jiných škodlivých akcí.

Hackeři používají umělou inteligenci k útoku na umělou inteligenci

FOTO: SNÍMEK OBRAZOVKY Z LINKEDINU

Dříve úspěšné provedení těchto útoků, zejména na „uzavřených“ modelech, jako jsou Gemini nebo GPT-4, často vyžadovalo spoustu složitého a časově náročného manuálního testování.

Ale Fun-Tuning zcela změnil pravidla hry. Metoda, vyvinutá týmem výzkumníků z několika univerzit, chytře využívá rozhraní pro programování aplikací (API) pro ladění, které Google poskytuje uživatelům Gemini zdarma.

Analýzou jemných reakcí modelu Gemini během ladění (např. jak reaguje na chyby v datech) dokáže Fun-Tuning automaticky určit nejúčinnější „předpony“ a „přípony“ pro skrytí škodlivého příkazu. To výrazně zvyšuje pravděpodobnost, že umělá inteligence vyhoví škodlivým úmyslům útočníka.

Výsledky testů ukazují, že Fun-Tuning dosahuje u některých verzí Gemini úspěšnosti až 82 %, což je číslo, které překračuje méně než 30 % tradičních metod útoku.

Nebezpečí Fun-Tuningu zvyšuje jeho nízká cena. Vzhledem k tomu, že ladicí API od Googlu je volně dostupné, výpočetní náklady na vytvoření efektivního útoku mohou být pouhých 10 dolarů. Vědci navíc zjistili, že útok určený pro jednu verzi Gemini lze snadno úspěšně aplikovat i na jiné verze, což otevírá možnost rozsáhlých útoků.

Společnost Google potvrdila, že si je vědoma hrozby, kterou představuje Fun-Tuning, ale zatím se nevyjádřila k tomu, zda změní fungování ladicího API. Výzkumníci také poukazují na obranné dilema: odstranění informací, které Fun-Tuning zneužívá, z procesu ladění by API učinilo méně užitečným pro legitimní vývojáře. Naopak, ponechání API tak, jak je, by i nadále představovalo odrazový můstek pro zneužití zlými hráči.

Vznik Fun-Tuningu je jasným varováním, že konfrontace v kyberprostoru vstoupila do nové, složitější fáze. Umělá inteligence nyní není jen cílem, ale také nástrojem a zbraní v rukou zlomyslných aktérů.

Zdroj: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm