Hakerzy mogą zdobyć tajne informacje firmowe, „zwierzając się” chatbotowi opartemu na sztucznej inteligencji

Eksperci technologiczni twierdzą, że hakerzy mogą za pomocą serii wyrafinowanych komunikatów włamać się do „poufnej” bazy danych firmy, nie dając się wykryć.

Przegląd wydarzenia OpenInfra & Cloud Native Day Vietnam 2025 pod hasłem „Era cyfrowego przełomu w Wietnamie” – zdjęcie: CHI HIEU

Sztuczna inteligencja (AI) niesie ze sobą wiele korzyści, zwłaszcza że jest obecnie wykorzystywana przez wiele firm do obsługi użytkowników końcowych, takich jak pracownicy firm i klienci. Zintegrowane z AI systemy chatbotów mogą stać się „wąskimi drzwiami” umożliwiającymi hakerom atakowanie i kradzież informacji przechowywanych w systemach przechowywania danych.

„Obecnie istnieje wiele metod ataków na modele sztucznej inteligencji, z których najczęstszą jest „zatruwanie treści”, które wydaje się być „niewidoczne” dla tradycyjnych systemów ochrony informacji” – ostrzegł Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam, podczas wydarzenia OpenInfra & Cloud Native Day Vietnam 2025, które odbyło się 26 lipca w Hanoi .

Organizatorem wydarzenia było Wietnamskie Stowarzyszenie Internetowe (VIA) we współpracy z Wietnamską Społecznością Otwartej Infrastruktury (VietOpenInfra), Wietnamskim Klubem Przetwarzania w Chmurze i Centrów Danych (VNCDC) oraz przy wsparciu Ministerstwa Nauki i Technologii .

90% firm korzysta z otwartych platform lub oprogramowania

W swoim przemówieniu otwierającym pan Vu The Binh – wiceprezes i sekretarz generalny Wietnamskiego Stowarzyszenia Internetowego – podkreślił znaczenie otwartej infrastruktury i otwartego kodu źródłowego w procesie krajowej transformacji cyfrowej.

W kontekście szybkich zmian w globalnej technologii pan Binh stwierdził, że otwarta infrastruktura nadal się rozwija jako fundament innowacji, skoro ponad 90% przedsiębiorstw korzysta z otwartych platform lub oprogramowania w wielu formach.

Według badania Red Hat (2024), 82% liderów technologicznych uważa otwarte platformy i oprogramowanie za klucz do napędzania transformacji cyfrowej i przyspieszenia innowacji. Platformy takie jak Kubernetes, OpenStack, Linux, Ceph i OpenTelemetry odgrywają coraz ważniejszą rolę w obsłudze systemów AI, IoT, 5G/6G, a także Cloud Native.

„10 lat temu chmurę można było pomylić z chmurami na niebie, a oprogramowanie open source brzmiało jak »sekret sztuk walki«. Ale dziś jesteśmy tutaj, łącząc się z globalną społecznością Otwartej Infrastruktury w ponad 180 krajach, wspólnie przekształcając linie kodu w siłę napędową innowacji” – powiedział pan Vu The Binh.

Chatbot AI – „wąskie drzwi” dla hakerów, którzy chcą wniknąć do systemu

Obecnie wiele firm intensywnie korzysta ze skuteczności otwartych, responsywnych platform, które integrują systemy takie jak chatboty oparte na sztucznej inteligencji, aby poprawić wydajność pracy i wzbogacić doświadczenia użytkowników.

Stąd też wiele metod ataków na modele sztucznej inteligencji, w tym ataki polegające na „zatruwaniu treścią”, ostrzegał pan Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam.

Zauważył, że wietnamskie firmy wdrażające sztuczną inteligencję wciąż niewiele wiedzą na temat tej formy ataku.

W związku z tym źli aktorzy stosują metodę ciągłego zadawania modelowi sztucznej inteligencji fałszywych informacji i uczenia go ich na nowo, powodując „zatrucie” informacji.

Jeśli informacje w systemie chmurowym zostały „zainfekowane” i nie zostały wykryte, a mimo to są nadal wykorzystywane, system będzie podawał nieprawidłowe informacje lub wykorzysta tę lukę w zabezpieczeniach, aby wkraść się do bazy danych w celu uzyskania informacji.

Pan Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam – zdjęcie: CHI HIEU

Pan Dao Viet Hung przytoczył rzadką historię, w której internetowy system sprzedaży za pomocą chatbota firmy samochodowej dał się przekonać do sprzedaży nowego samochodu za jedyne 1 dolara.

Powodem jest to, że w trakcie procesu wymiany informacji i negocjacji z chatbotem, klient znalazł sposób, aby „wkraść się” do bazy danych i przekonać chatbota do zaakceptowania powyższej prośby.

Innym przykładem jest sytuacja, gdy hakerowi udało się uzyskać dostęp do wszystkich poufnych dokumentów i schematów organizacyjnych firmy, po prostu formułując odpowiednie pytania i wysyłając je do wewnętrznego chatbota opartego na sztucznej inteligencji.

Przed tym ryzykiem pan Dao Viet Hung podzielił się rozwiązaniem zabezpieczającym sztuczną inteligencję, dzięki któremu może ona chronić swoją własną. Jest to forma wykorzystywana przez wiele dużych przedsiębiorstw na świecie .

Dzięki tej metodzie zabezpieczeń przechowywane dane są chronione wieloma warstwami, co utrudnia ich „zainfekowanie”.

System bezpieczeństwa AI potrafi wykryć, które informacje są bezpieczne, a które potencjalnie stanowią zagrożenie atakiem. Na tej podstawie może szybko i odpowiednio zaplanować działanie...

Powrót do tematu

Synowska pobożność

Źródło: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm