Przegląd wydarzenia OpenInfra & Cloud Native Day Vietnam 2025 pod hasłem „Era cyfrowego przełomu w Wietnamie” – zdjęcie: CHI HIEU
Sztuczna inteligencja (AI) oferuje wiele korzyści i jest obecnie integrowana przez wiele firm, aby służyć użytkownikom końcowym, takim jak pracownicy i klienci. Jednak ta integracja może również stwarzać luki w zabezpieczeniach, które umożliwiają hakerom atakowanie i kradzież informacji z systemów przechowywania danych.
„Obecnie istnieje wiele metod ataków na modele sztucznej inteligencji, a najczęstszą z nich jest „zatruwanie treści”, czyli rodzaj ataku, który wydaje się „niewidoczny” dla tradycyjnych systemów ochrony informacji” – ostrzegł Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam, podczas wydarzenia OpenInfra & Cloud Native Day Vietnam 2025, które odbyło się 26 lipca w Hanoi .
Wydarzenie zostało zorganizowane przez Wietnamskie Stowarzyszenie Internetowe (VIA) we współpracy z Wietnamską Społecznością Otwartej Infrastruktury (VietOpenInfra), Wietnamskim Klubem Przetwarzania w Chmurze i Centrów Danych (VNCDC) oraz przy wsparciu Ministerstwa Nauki i Technologii .
90% firm korzysta z platform lub oprogramowania typu open source.
W swoim przemówieniu otwierającym pan Vu The Binh, wiceprezes i sekretarz generalny Wietnamskiego Stowarzyszenia Internetowego, podkreślił znaczenie otwartej infrastruktury i oprogramowania typu open source w procesie krajowej transformacji cyfrowej.
W kontekście szybko zmieniającej się globalnej technologii pan Binh stwierdził, że otwarta infrastruktura stale się rozwija jako fundament innowacji, a ponad 90% przedsiębiorstw korzysta z otwartych platform lub oprogramowania w różnych formach.
Według badania Red Hat (2024), 82% liderów technologicznych uważa otwarte platformy i oprogramowanie za klucz do napędzania transformacji cyfrowej i przyspieszenia innowacji. Platformy takie jak Kubernetes, OpenStack, Linux, Ceph i OpenTelemetry odgrywają coraz ważniejszą rolę w działaniu systemów AI, IoT, 5G/6G i Cloud Native.
„Dziesięć lat temu chmurę można było pomylić z chmurą na niebie, a słowo open source brzmiało jak »tajna technika sztuk walki«. Ale dziś jesteśmy tutaj, łącząc się z globalną społecznością Otwartej Infrastruktury w ponad 180 krajach, wspólnie pracując nad przekształceniem linii kodu w siłę napędową innowacji” – powiedział pan Vu The Binh.
Chatboty oparte na sztucznej inteligencji – wąskie okno, przez które hakerzy mogą infiltrować systemy.
Obecnie wiele firm intensywnie korzysta z zalet otwartych, responsywnych platform ze zintegrowanymi systemami, takimi jak chatboty oparte na sztucznej inteligencji, aby zwiększyć wydajność pracy i ulepszyć doświadczenia użytkowników.
Jak ostrzegał Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam, właśnie w tym momencie pojawia się wiele metod ataków na modele sztucznej inteligencji, w tym ataki polegające na „zatruwaniu treścią”.
Zauważył, że wietnamskie firmy, wdrażając sztuczną inteligencję, wciąż nie mają wystarczającej wiedzy na temat tego typu ataków.
W związku z tym osoby o złych zamiarach stosują metodę wielokrotnego zadawania modelom sztucznej inteligencji fałszywych pytań i przekazywania im fałszywych informacji, co powoduje „zatrucie” informacji.
Jeśli informacje w systemie chmurowym zostały „zainfekowane”, ale nie zostały wykryte i nadal są wykorzystywane, system będzie dostarczał nieprawdziwe informacje lub wykorzysta tę lukę w zabezpieczeniach, aby uzyskać dostęp do bazy danych i wykraść informacje.
Pan Dao Viet Hung, dyrektor krajowy Akamai Technologies Vietnam – zdjęcie: CHI HIEU
Pan Dao Viet Hung przytoczył niezwykłe historie, jak na przykład sytuację, gdy internetowy chatbot sprzedażowy firmy motoryzacyjnej został przekonany do sprzedaży nowego samochodu za jedyne 1 dolara.
Powodem jest to, że w trakcie wymiany zdań i negocjacji z chatbotem, klientowi udało się „ominąć” bazę danych i przekonać chatbota do zaakceptowania prośby.
Inny przykład pokazuje hakera, który zdołał uzyskać dostęp do wszystkich poufnych dokumentów i schematów organizacyjnych firmy, po prostu formułując odpowiednie pytania i wysyłając je do wewnętrznego chatbota opartego na sztucznej inteligencji.
Biorąc pod uwagę to ryzyko, pan Dao Viet Hung zaprezentował rozwiązanie zabezpieczające sztuczną inteligencję, w którym sztuczna inteligencja chroni sztuczną inteligencję – metodę stosowaną przez wiele dużych przedsiębiorstw na całym świecie .
Dzięki tej metodzie zabezpieczeń przechowywane dane są chronione wieloma warstwami, co utrudnia ich „zainfekowanie”.
Systemy bezpieczeństwa AI potrafią wykryć, które informacje są bezpieczne, a które stanowią potencjalne ryzyko ataku, a następnie podjąć szybkie i odpowiednie działania...
Źródło: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
Komentarz (0)