Hakerzy wykorzystują „osobowość” chatbotów opartych na sztucznej inteligencji.

(Zdjęcie: Freepik)

Hakerzy wykorzystują „osobowość” chatbotów opartych na sztucznej inteligencji w coraz bardziej wyrafinowany sposób, a ich ataki nie opierają się już wyłącznie na złośliwym oprogramowaniu lub lukach technicznych, ale przechodzą na język manipulacyjny.

Na wczesnym etapie „hakowanie” chatbotów AI było dość proste. Użytkownicy musieli jedynie poinstruować system, aby ignorował wcześniejsze instrukcje, udawał, że nie obowiązują go zasady lub odgrywał rolę nieograniczonej sztucznej inteligencji. Metody te nazywane są „jailbreakingiem”, co oznacza oszukanie modelu AI, aby ominął bezpieczne instrukcje.

Jednym z popularnych typów ataków w przeszłości był „DAN”, skrót od „Do Anything Now” (zrób wszystko teraz), w którym użytkownicy prosili ChatGPT o wcielenie się w sztuczną inteligencję zdolną do wykonania dowolnej czynności. Innym przykładem jest „babciny exploit”, w którym chatbot zostaje oszukany i wciela się w rolę babci opowiadającej dzieciom bajki, a następnie treść jest kierowana w stronę niebezpiecznych informacji.

Firmy technologiczne szybko załatały wiele przestarzałych luk, ale podstawowe słabości pozostały. Chatboty są zaprojektowane do prowadzenia rozmów, więc nadmierne ograniczanie dialogu może zmniejszyć użyteczność systemu. Tymczasem samo zakazanie używania słów drażliwych nie wystarczy, ponieważ wiele słów może pojawiać się w uzasadnionych kontekstach, takich jak historia, medycyna, dziennikarstwo czy chemia.

Według artykułu, wyścig o bezpieczeństwo sztucznej inteligencji nie jest już tylko problemem programistów. Osoby próbujące obejść zabezpieczenia chatbotów coraz bardziej przypominają pisarzy, psychologów czy przesłuchujących, posługując się pochlebstwami, presją, oszustwem lub manipulacją, aby zmusić modele do obniżenia czujności.

Według firmy Mindgard, zajmującej się testowaniem bezpieczeństwa sztucznej inteligencji, niektóre ataki bardziej przypominają psychologię niż informatykę . Modele sztucznej inteligencji nie mają emocji jak ludzie, ale są trenowane tak, aby reagować tak, jakby je miały. Ta symulacja może generować różne rodzaje reakcji, sprawiając, że każdy chatbot wydaje się mieć swoją własną „osobowość”.

Stanowi to nowe wyzwanie, ponieważ agenci AI są coraz częściej wykorzystywani do planowania, zarządzania zadaniami, zamawiania jedzenia czy obsługi klienta. Skoro modelami można manipulować za pomocą rozmowy, siły bezpieczeństwa będą musiały zbadać zarówno ich ograniczenia społeczne i emocjonalne, jak i tradycyjne słabości techniczne.

Źródło: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm