A Google vitát váltott ki azzal, hogy nem volt hajlandó bejavítani a Gemini biztonsági hibáját

VHO – A Gemini mesterséges intelligencia eszközében található hiba miatt a felhasználók érzékeny adatai kiszivároghatnak, de a Google azt nyilatkozta, hogy ez nem biztonsági hiba, és nem tervezi a javítását.

A Google-t bírálatok érték, miután nem volt hajlandó kijavítani a Gemini, a Google Workspace ökoszisztémába mélyen integrált mesterséges intelligencia (MI) eszköz súlyos sebezhetőségét. Biztonsági szakértők szerint a hiba ahhoz vezethet, hogy érzékeny felhasználói adatok szivárognak ki idegenekhez egy „ASCII csempészet” nevű támadás révén.

Kép forrása: Android Authority.

A Gemini sebezhető a szövegben rejtett kóddal

Viktor Markopoulos biztonsági kutató számos népszerű nagyméretű nyelvi modellt (LLM) tesztelt a támadással szembeni ellenállásuk szempontjából. Az eredmények azt mutatták, hogy a Gemini, a DeepSeek és a Grok mind sebezhetőek voltak, míg a ChatGPT, a Claude és a Copilot jobban védett volt.

Az ASCII-csempészet egy olyan támadási forma, ahol a támadó elrejt egy promptot vagy parancskódot szövegben, gyakran rendkívül kis méretben vagy speciálisan kódolva. Amikor egy felhasználó arra kéri a mesterséges intelligenciát, hogy összegezze vagy elemezze a rejtett kódot tartalmazó tartalmat, a mesterséges intelligencia eszköze véletlenül elolvassa és végrehajtja a rosszindulatú promptot a felhasználó tudta nélkül.

Érzékeny adatok szivárgásának kockázata a Google Workspace-ben

Mivel a Gemini közvetlenül integrálva van a Gmail, a Dokumentumok és a Google Workspace szolgáltatásokba, ez a kockázat különösen aggasztóvá válik: egy rejtett prompt miatt a mesterséges intelligencia automatikusan személyes adatokat, elérhetőségeket vagy bizalmas dokumentumokat kereshet, majd a felhasználó tudta nélkül elküldheti azokat a rendszerből.

Markopoulos felvette a kapcsolatot a Google-lel, hogy bemutassa eredményeit, sőt, egy láthatatlan kódrészlettel is illusztrálta azokat, amely arra késztette a Geminit, hogy megosszon egy linket egy rosszindulatú weboldalra csak azért, hogy „beváltson egy kedvezményes telefont”.

A Google tagadja, hogy biztonsági hibáról lenne szó

Egy közzétett válaszában a Google azt állította, hogy ez nem biztonsági rés, hanem egyfajta szociális manipulációs támadás. Más szóval, a vállalat ezt gondatlan felhasználói interakció okozta hibának tekintette, nem pedig a mesterséges intelligencia rendszerével kapcsolatos problémának.

Ez a válasz arra utal, hogy a Google-nek nem tervei vannak a Geminihez készült javítás kiadására a közeljövőben, ami azt jelenti, hogy a felhasználóknak óvatosabbaknak kell lenniük a mesterséges intelligencia használatával végzett dokumentumok feldolgozása során, különösen az érzékeny információkat tartalmazó vagy ellenőrizetlen forrásokból származó dokumentumok esetében.

Egyre növekvő aggodalmak a mélyen integrált mesterséges intelligencia biztonságával kapcsolatban

Az incidens kérdéseket vet fel a tech cégek felelősségével kapcsolatban, mivel a mesterséges intelligencia egyre inkább integrálódik a munka- és kommunikációs platformokba. Miközben a Google hangsúlyozta elkötelezettségét a „felhasználók biztonsága” iránt, a döntés befolyásolhatja a Gemini biztonságába vetett bizalmat – különösen a vállalati környezetben.

Az Android Authority szerint

Forrás: https://baovanhoa.vn/nhip-song-so/google-gay-tranh-cai-khi-tu-choi-va-loi-bao-mat-gemini-173381.html