A Google-t bírálatok érték, miután nem volt hajlandó kijavítani a Gemini, a Google Workspace ökoszisztémába mélyen integrált mesterséges intelligencia (MI) eszköz súlyos sebezhetőségét. Biztonsági szakértők szerint a hiba ahhoz vezethet, hogy érzékeny felhasználói adatok szivárognak ki idegenekhez egy „ASCII csempészet” nevű támadás révén.
A Gemini sebezhető a szövegben rejtett kóddal
Viktor Markopoulos biztonsági kutató számos népszerű nagyméretű nyelvi modellt (LLM) tesztelt a támadással szembeni ellenállásuk szempontjából. Az eredmények azt mutatták, hogy a Gemini, a DeepSeek és a Grok mind sebezhetőek voltak, míg a ChatGPT, a Claude és a Copilot jobban védett volt.
Az ASCII-csempészet egy olyan támadási forma, ahol a támadó elrejt egy promptot vagy parancskódot szövegben, gyakran rendkívül kis méretben vagy speciálisan kódolva. Amikor egy felhasználó arra kéri a mesterséges intelligenciát, hogy összegezze vagy elemezze a rejtett kódot tartalmazó tartalmat, a mesterséges intelligencia eszköze véletlenül elolvassa és végrehajtja a rosszindulatú promptot a felhasználó tudta nélkül.
A Gemini 3 már a megjelenése előtt felkeltette a figyelmet
Érzékeny adatok szivárgásának kockázata a Google Workspace-ben
Mivel a Gemini közvetlenül integrálva van a Gmail, a Dokumentumok és a Google Workspace szolgáltatásokba, ez a kockázat különösen aggasztóvá válik: egy rejtett prompt miatt a mesterséges intelligencia automatikusan személyes adatokat, elérhetőségeket vagy bizalmas dokumentumokat kereshet, majd a felhasználó tudta nélkül elküldheti azokat a rendszerből.
Markopoulos felvette a kapcsolatot a Google-lel, hogy bemutassa eredményeit, sőt, egy láthatatlan kódrészlettel is illusztrálta azokat, amely arra késztette a Geminit, hogy megosszon egy linket egy rosszindulatú weboldalra csak azért, hogy „beváltson egy kedvezményes telefont”.
A Google tagadja, hogy biztonsági hibáról lenne szó
Egy közzétett válaszában a Google azt állította, hogy ez nem biztonsági rés, hanem egyfajta szociális manipulációs támadás. Más szóval, a vállalat ezt gondatlan felhasználói interakció okozta hibának tekintette, nem pedig a mesterséges intelligencia rendszerével kapcsolatos problémának.
Ez a válasz arra utal, hogy a Google-nek nem tervei vannak a Geminihez készült javítás kiadására a közeljövőben, ami azt jelenti, hogy a felhasználóknak óvatosabbaknak kell lenniük a mesterséges intelligencia használatával végzett dokumentumok feldolgozása során, különösen az érzékeny információkat tartalmazó vagy ellenőrizetlen forrásokból származó dokumentumok esetében.
Egyre növekvő aggodalmak a mélyen integrált mesterséges intelligencia biztonságával kapcsolatban
Az incidens kérdéseket vet fel a tech cégek felelősségével kapcsolatban, mivel a mesterséges intelligencia egyre inkább integrálódik a munka- és kommunikációs platformokba. Miközben a Google hangsúlyozta elkötelezettségét a „felhasználók biztonsága” iránt, a döntés befolyásolhatja a Gemini biztonságába vetett bizalmat – különösen a vállalati környezetben.
Az Android Authority szerint
Forrás: https://baovanhoa.vn/nhip-song-so/google-gay-tranh-cai-khi-tu-choi-va-loi-bao-mat-gemini-173381.html
Hozzászólás (0)