Google vyvolal kontroverzi odmítnutím opravit bezpečnostní chybu v Gemini

VHO - Chyba v nástroji Gemini AI vystavuje uživatele riziku úniku citlivých informací, ale Google uvedl, že se nejedná o bezpečnostní chybu a nemá v plánu ji opravovat.

Společnost Google čelí kritice poté, co odmítla opravit závažnou zranitelnost v nástroji Gemini, nástroji umělé inteligence (AI) hluboce integrovaném do ekosystému Google Workspace. Podle bezpečnostních expertů by chyba mohla vést k úniku citlivých uživatelských informací k cizím osobám prostřednictvím útoku zvaného „pašování ASCII“.

Zdroj obrázku: Android Authority.

Gemini zranitelní vůči kódu skrytému v textu

Bezpečnostní výzkumník Viktor Markopoulos otestoval několik populárních modelů velkých jazyků programování (LLM) na odolnost vůči tomuto útoku. Výsledky ukázaly, že Gemini, DeepSeek a Grok byly zranitelné, zatímco ChatGPT, Claude a Copilot byly lépe chráněny.

Pašování ASCII kódů je forma útoku, kdy útočník skrývá kód výzvy nebo příkazu v textu, často v extrémně malé velikosti nebo speciálně kódovaném. Když uživatel požádá umělou inteligenci o shrnutí nebo analýzu obsahu obsahujícího tento skrytý kód, nástroj umělé inteligence škodlivou výzvu omylem přečte a spustí, aniž by si to uživatel uvědomil.

Riziko úniku citlivých dat v Google Workspace

Vzhledem k přímé integraci služby Gemini do služeb Gmail, Dokumenty a Google Workspace se toto riziko stává obzvláště znepokojivým: Skrytá výzva by mohla způsobit, že umělá inteligence automaticky vyhledá osobní údaje, kontaktní údaje nebo důvěrné dokumenty a poté je odešle ze systému, aniž by o tom uživatel věděl.

Markopoulos kontaktoval Google, aby prezentoval svá zjištění, a dokonce je ilustroval neviditelným kouskem kódu, který přiměl Gemini sdílet odkaz na škodlivou webovou stránku jen proto, aby „uplatnil zlevněný telefon“.

Google popírá, že by se jednalo o bezpečnostní chybu

Ve zveřejněné odpovědi Google uvedl, že se nejedná o bezpečnostní zranitelnost, ale o formu útoku sociálního inženýrství. Jinými slovy, společnost to považovala za chybu způsobenou neopatrnou interakcí uživatele, nikoli za problém se svým systémem umělé inteligence.

Tato reakce naznačuje, že Google v blízké budoucnosti neplánuje vydat záplatu pro Gemini, což znamená, že uživatelé by měli být opatrnější při používání umělé inteligence ke zpracování dokumentů, zejména těch, které obsahují citlivé informace nebo pocházejí z neověřených zdrojů.

Rostoucí obavy o bezpečnost hluboce integrované umělé inteligence

Incident vyvolává otázky ohledně odpovědnosti technologických společností, jelikož se umělá inteligence stále více integruje do pracovních a komunikačních platforem. Ačkoli Google zdůrazňuje svůj závazek k „bezpečnosti uživatelů“, toto rozhodnutí by mohlo ovlivnit důvěru v bezpečnost Gemini – zejména v korporátním prostředí.

Podle Android Authority

Zdroj: https://baovanhoa.vn/nhip-song-so/google-gay-tranh-cai-khi-tu-choi-va-loi-bao-mat-gemini-173381.html