Luka w zabezpieczeniach Microsoft Copilot: nowe ostrzeżenie o ryzyku wycieku danych AI

Lỗ hổng bảo mật - Ảnh 1. — EchoLeak i potencjalne zagrożenia związane ze sztuczną inteligencją

W miarę jak sztuczna inteligencja (AI) staje się częścią wszystkiego – od pisania raportów, odpowiadania na e-maile po analizę danych – wydaje się, że żyjemy w erze niespotykanej dotąd wygody. Jednak wady wygody zaczynają się również ujawniać, zwłaszcza w kontekście bezpieczeństwa.

Niedawno wykryta luka w zabezpieczeniach, nazwana EchoLeak, naraziła użytkowników usługi Microsoft Copilot na ryzyko wycieku ich poufnych danych bez konieczności podejmowania przez nich żadnych działań.

Kiedy sztuczna inteligencja staje się luką w zabezpieczeniach

Według badań Tuoi Tre Online , EchoLeak to nowa zarejestrowana luka w zabezpieczeniach o kodzie CVE-2025-32711, którą eksperci ocenili jako niebezpieczną na 9,3/10 według skali NIST.

Eksperci ds. bezpieczeństwa obawiają się, że rozwiązanie to nie wymaga kliknięcia : atakujący mogą wykorzystać dane z Copilota bez konieczności klikania przez użytkownika, otwierania pliku, a nawet bez wiedzy użytkownika o tym, co się dzieje.

To nie jest zwykły błąd. Zespół badawczy Aim Labs, który odkrył tę lukę, uważa, że EchoLeak odzwierciedla powszechną wadę projektową w systemach sztucznej inteligencji opartych na agentach i RAG. Ponieważ Copilot jest częścią pakietu aplikacji Microsoft 365, który przechowuje e-maile, dokumenty, arkusze kalkulacyjne i harmonogramy spotkań milionów użytkowników, ryzyko wycieku danych jest szczególnie poważne.

Problem leży nie tylko w konkretnym kodzie, ale także w sposobie działania dużych modeli językowych (LLM). Sztuczna inteligencja potrzebuje szerokiego kontekstu, aby reagować precyzyjnie, dlatego ma dostęp do wielu danych kontekstowych. Bez jasnych kontroli nad danymi wejściowymi i wyjściowymi, sztuczna inteligencja może być „sterowana” w sposób, którego użytkownicy nie są świadomi. To tworzy nowy rodzaj „tylnych drzwi”, które nie wynikają z błędu w kodzie, ale z tego, że sztuczna inteligencja zachowuje się w sposób wykraczający poza ludzkie zrozumienie.

Microsoft szybko wydał łatkę i jak dotąd nie odnotowano żadnych realnych szkód. Lekcja płynąca z EchoLeak jest jednak jasna: gdy sztuczna inteligencja jest głęboko zintegrowana z działającymi systemami, nawet drobne błędy w sposobie, w jaki rozumie ona kontekst, mogą mieć poważne konsekwencje dla bezpieczeństwa.

Im wygodniejsza staje się sztuczna inteligencja, tym bardziej kruche stają się dane osobowe

Incydent EchoLeak rodzi niepokojące pytanie: czy ludzie tak ufają sztucznej inteligencji, że nie zdają sobie sprawy, że można ich śledzić lub ujawnić ich dane osobowe za pomocą jednej wiadomości tekstowej? Nowo odkryta luka, która pozwala hakerom na dyskretne wykradanie danych bez konieczności naciskania jakichkolwiek przycisków, to coś, co kiedyś można było zobaczyć tylko w filmach science fiction, ale teraz stało się rzeczywistością.

Podczas gdy aplikacje sztucznej inteligencji (AI) cieszą się coraz większą popularnością – od wirtualnych asystentów, takich jak Copilot, przez chatboty w bankowości i edukacji , po platformy AI piszące treści i przetwarzające wiadomości e-mail – większość ludzi nie jest ostrzegana o tym, w jaki sposób ich dane są przetwarzane i przechowywane.

„Rozmowa” z systemem AI nie polega już tylko na zadaniu kilku pytań dla wygody, ale może także nieumyślnie ujawnić Twoją lokalizację, nawyki, emocje, a nawet informacje o koncie.

W Wietnamie wiele osób korzysta ze sztucznej inteligencji (AI) na telefonach i komputerach, nie mając podstawowej wiedzy z zakresu bezpieczeństwa cyfrowego . Wiele osób udostępnia sztucznej inteligencji prywatne informacje, wierząc, że „to tylko maszyna”. W rzeczywistości jednak kryje się za tym system, który może rejestrować, uczyć się i przesyłać dane do innych miejsc, zwłaszcza gdy platforma AI pochodzi od strony trzeciej i nie została jednoznacznie przetestowana pod kątem bezpieczeństwa.

Aby ograniczyć ryzyko, użytkownicy nie muszą koniecznie rezygnować z technologii, ale muszą zachować większą ostrożność: powinni dokładnie sprawdzić, czy używana przez nich aplikacja AI pochodzi z wiarygodnego źródła, czy dane są szyfrowane, a przede wszystkim nie udostępniać żadnym systemom AI bez wyraźnego ostrzeżenia poufnych informacji , takich jak numery dowodów osobistych, konta bankowe, informacje o stanie zdrowia itp.

Podobnie jak na początku istnienia Internetu, sztuczna inteligencja również potrzebuje czasu, aby się udoskonalić. W tym czasie użytkownicy powinni jako pierwsi podejmować proaktywne działania w celu ochrony samych siebie.

Czy kiedykolwiek dzielisz się ze sztuczną inteligencją zbyt wieloma informacjami?

Wpisując polecenie takie jak „przepisz ten raport w bardziej przyjazny sposób” lub „podsumuj wczorajsze spotkanie”, wiele osób nie zdaje sobie sprawy, że wszystkie wprowadzane przez nich informacje, w tym szczegóły wewnętrzne, osobiste odczucia i nawyki związane z pracą, mogą zostać zarejestrowane przez sztuczną inteligencję. Przyzwyczailiśmy się do czatowania za pomocą inteligentnych narzędzi tak bardzo, że zapominamy o granicy między wygodą a prywatnością.

Powrót do tematu

TUAN VI

Source: https://tuoitre.vn/lo-hong-bao-mat-trong-microsoft-copilot-canh-bao-moi-ve-nguy-co-ro-ri-du-lieu-tu-ai-20250620103045262.htm