Hakerzy mogą uzyskać poufne informacje firmowe, „rozmawiając” z chatbotem AI

Eksperci technologiczni twierdzą, że hakerzy mogą za pomocą serii wyrafinowanych komunikatów włamać się do „poufnej” bazy danych firmy, nie dając się wykryć.

Przegląd wydarzenia OpenInfra & Cloud Native Day Vietnam 2025 pod hasłem „Era cyfrowego przełomu w Wietnamie” – zdjęcie: CHI HIEU

Sztuczna inteligencja (AI) niesie ze sobą wiele korzyści, zwłaszcza że jest obecnie wykorzystywana przez wiele firm do obsługi użytkowników końcowych, takich jak pracownicy firm i klienci. Zintegrowane z AI systemy chatbotów mogą stać się „wąskimi drzwiami” dla hakerów, którzy będą mogli atakować systemy przechowywania danych i kraść z nich informacje.

„Obecnie istnieje wiele metod ataków na modele sztucznej inteligencji, z których najczęstszą jest „zatruwanie treści”, które wydaje się być „niewidoczne” dla tradycyjnych systemów ochrony informacji” – ostrzegł Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam, podczas wydarzenia OpenInfra & Cloud Native Day Vietnam 2025, które odbyło się 26 lipca w Hanoi .

Organizatorem wydarzenia było Wietnamskie Stowarzyszenie Internetowe (VIA) we współpracy z Wietnamską Społecznością Otwartej Infrastruktury (VietOpenInfra), Wietnamskim Klubem Przetwarzania w Chmurze i Centrów Danych (VNCDC) oraz przy wsparciu Ministerstwa Nauki i Technologii .

90% firm korzysta z otwartych platform lub oprogramowania

W swoim przemówieniu otwierającym pan Vu The Binh – wiceprezes i sekretarz generalny Wietnamskiego Stowarzyszenia Internetowego – podkreślił znaczenie otwartej infrastruktury i otwartego kodu źródłowego w procesie krajowej transformacji cyfrowej.

W kontekście szybkich zmian w globalnej technologii pan Binh stwierdził, że otwarta infrastruktura nadal się rozwija jako fundament innowacji, skoro ponad 90% przedsiębiorstw korzysta z otwartych platform lub oprogramowania w wielu formach.

Według badania Red Hat (2024), 82% liderów technologicznych uważa otwarte platformy i oprogramowanie za klucz do napędzania transformacji cyfrowej i przyspieszenia innowacji. Platformy takie jak Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry odgrywają coraz ważniejszą rolę w obsłudze systemów AI, IoT, 5G/6G i Cloud Native.

„10 lat temu chmurę można było pomylić z chmurami na niebie, a oprogramowanie open source brzmiało jak »sekret sztuk walki«. Ale dziś jesteśmy tutaj, łącząc się z globalną społecznością Otwartej Infrastruktury w ponad 180 krajach, wspólnie przekształcając linie kodu w siłę napędową innowacji” – powiedział pan Vu The Binh.

Chatbot AI – „wąskie drzwi” dla hakerów, którzy chcą wniknąć do systemu

Obecnie wiele firm intensywnie korzysta ze skuteczności otwartych, responsywnych platform, które integrują systemy takie jak chatboty oparte na sztucznej inteligencji, aby poprawić wydajność pracy i wzbogacić doświadczenia użytkowników.

Stąd też wiele metod ataków na modele sztucznej inteligencji, w tym ataki polegające na „zatruwaniu treścią”, ostrzegał pan Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam.

Zauważył, że wietnamskie firmy wdrażające sztuczną inteligencję wciąż niewiele wiedzą na temat tej formy ataku.

W związku z tym źli aktorzy stosują metodę ciągłego zadawania modelowi sztucznej inteligencji fałszywych informacji i uczenia go ich na nowo, powodując „zatrucie” informacji.

Jeśli informacje w systemie chmurowym uległy „zainfekowaniu” i nie zostały wykryte, a mimo to są nadal wykorzystywane, system będzie dostarczał nieprawidłowych informacji lub wykorzysta tę lukę w zabezpieczeniach, aby wkraść się do bazy danych w celu uzyskania informacji.

Pan Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam – zdjęcie: CHI HIEU

Pan Dao Viet Hung przytoczył rzadką historię, gdy internetowy system sprzedaży za pomocą chatbota firmy samochodowej dał się namówić na sprzedaż nowego samochodu za jedyne 1 dolara.

Powodem jest to, że w trakcie procesu wymiany informacji i negocjacji z chatbotem, klient znalazł sposób, aby „wkraść się” do bazy danych i przekonać chatbota do zaakceptowania powyższej prośby.

Innym przykładem jest sytuacja, gdy hakerom udało się uzyskać dostęp do wszystkich poufnych dokumentów i schematów organizacyjnych firmy, po prostu zadając odpowiednie pytania i wysyłając je do wewnętrznego chatbota opartego na sztucznej inteligencji.

Przed tym ryzykiem pan Dao Viet Hung podzielił się rozwiązaniem zabezpieczającym sztuczną inteligencję, dzięki któremu sama może ją chronić. Jest to forma wykorzystywana przez wiele dużych przedsiębiorstw na świecie .

Dzięki tej metodzie zabezpieczeń przechowywane dane są chronione wieloma warstwami, co utrudnia ich „zainfekowanie”.

System bezpieczeństwa AI jest w stanie wykryć, które informacje są bezpieczne, a które potencjalnie stanowią zagrożenie atakiem. Na tej podstawie można szybko i odpowiednio zaplanować postępowanie...

Powrót do tematu

POBOŻNOŚĆ

Źródło: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm