Zranitelnost zabezpečení Microsoft Copilot: Nové varování před rizikem úniku dat z umělé inteligence

Lỗ hổng bảo mật - Ảnh 1. — EchoLeak a potenciální rizika umělé inteligence

Vzhledem k tomu, že se umělá inteligence (AI) stává součástí každé práce, od pomoci s psaním zpráv, přes odpovídání na e-maily až po analýzu dat, zdá se, že uživatelé žijí v éře nebývalého pohodlí. Začíná se však objevovat i jeho temná stránka, zejména pokud jde o bezpečnost.

Nedávná bezpečnostní zranitelnost s názvem EchoLeak vystavila uživatele služby Microsoft Copilot riziku úniku citlivých dat, aniž by museli podniknout jakékoli kroky.

Když se umělá inteligence stane bezpečnostní zranitelností

Podle výzkumu serveru Tuoi Tre Online je EchoLeak bezpečnostní zranitelnost s kódem CVE-2025-32711, kterou odborníci podle stupnice NIST ohodnotili jako nebezpečnou na 9,3/10.

Bezpečnostní experty znepokojuje jeho „nulový“ charakter: útočníci mohou zneužít data z Copilotu, aniž by uživatel musel kliknout, otevřít soubor nebo dokonce vědět, že se něco děje.

Nejedná se o jednoduchou chybu. Výzkumný tým v Aim Labs, který zranitelnost objevil, se domnívá, že EchoLeak odráží běžnou konstrukční chybu v systémech RAG (retrieval-augmented generation) a systémech s umělou inteligencí založenou na agentech. Protože Copilot je součástí sady aplikací Microsoft 365, která uchovává e-maily, dokumenty, tabulky a harmonogramy schůzek milionů uživatelů, je riziko úniku dat velmi vážné.

Problém nespočívá jen v konkrétním kódu, ale ve způsobu, jakým fungují rozsáhlé jazykové modely (LLM). Umělé inteligence potřebují k přesné reakci mnoho kontextu, a proto mají přístup k velkému množství dat na pozadí. Bez jasné kontroly nad vstupy a výstupy mohou být umělé inteligence „řízeny“ způsoby, kterých si uživatelé nejsou vědomi. To vytváří nový druh „zadních vrátek“ nikoli kvůli chybě v kódu, ale proto, že se umělé inteligence chovají mimo lidské chápání.

Microsoft rychle vydal záplatu a zatím nebyly hlášeny žádné reálné škody. Poučení z EchoLeak je však jasné: Když je umělá inteligence hluboce integrována do fungujících systémů, i malé chyby v tom, jak chápe kontext, mohou mít závažné bezpečnostní důsledky.

Čím pohodlnější umělá inteligence, tím křehčí osobní data

Incident EchoLeak vyvolává znepokojivou otázku: Důvěřují uživatelé umělé inteligenci natolik, že si neuvědomují, že je lze sledovat nebo odhalit jejich osobní údaje pouhou textovou zprávou? Nově objevená zranitelnost, která umožňuje hackerům tiše extrahovat data, aniž by uživatelé museli mačkat jakákoli tlačítka, je něco, co se kdysi dalo vidět jen ve sci-fi filmech, ale nyní je realitou.

Přestože aplikace umělé inteligence jsou stále populárnější, od virtuálních asistentů jako Copilot, chatbotů v bankovnictví a vzdělávání až po platformy umělé inteligence, které píší obsah a zpracovávají e-maily, většina lidí není varována před tím, jak jsou jejich data zpracovávána a ukládána.

„Chatování“ s umělou inteligencí už není jen o položení několika otázek pro pohodlí, ale může také neúmyslně odhalit vaši polohu, zvyky, emoce nebo dokonce informace o účtu.

Ve Vietnamu je mnoho lidí obeznámeno s používáním umělé inteligence v telefonech a počítačích, aniž by měli základní znalosti digitální bezpečnosti . Mnoho lidí sdílí s umělou inteligencí soukromé informace, protože si myslí, že „je to jen stroj“. Ve skutečnosti se za tím ale skrývá systém, který dokáže data zaznamenávat, učit se a přenášet jinam, zejména pokud platforma umělé inteligence pochází od třetí strany a nebyla jasně testována z hlediska bezpečnosti.

Aby se omezila rizika, uživatelé se nemusí nutně vzdát technologií, ale musí být více uvědomělí: měli by pečlivě zkontrolovat, zda aplikace umělé inteligence, kterou používají, má spolehlivý zdroj, zda jsou data šifrována, a zejména nesdílet citlivé informace, jako jsou čísla dokladů, bankovní účty, zdravotní informace... s žádným systémem umělé inteligence bez jasného varování.

Stejně jako v době, kdy se internet poprvé zrodil, i umělá inteligence potřebuje čas na zdokonalení a během této doby by se uživatelé měli jako první proaktivně chránit.

Sdílíte někdy s umělou inteligencí příliš mnoho informací?

Když píšou příkaz „přepište mi tuto zprávu, ale přátelštějším způsobem“ nebo „shrňte včerejší schůzku“, mnoho lidí si neuvědomuje, že všechny informace, které zadávají, včetně interních detailů, osobních pocitů nebo pracovních návyků, dokáže umělá inteligence zaznamenat. Postupně jsme si zvykli chatovat s chytrými nástroji a zapomínali jsme na hranici mezi pohodlím a soukromím.

Zpět k tématu

TUAN VI

Zdroj: https://tuoitre.vn/lo-hong-bao-mat-trong-microsoft-copilot-canh-bao-moi-ve-nguy-co-ro-ri-du-lieu-tu-ai-20250620103045262.htm