Odkryto model sztucznej inteligencji, który może oszukiwać ludzi

DNVN - OpenAI właśnie opublikowało badanie na temat tego, jak zapobiegać „spiskowym” modelom sztucznej inteligencji - czyli „sztucznej inteligencji, która na pierwszy rzut oka zachowuje się w określony sposób, ale w środku ma inny, rzeczywisty cel”.

Zdjęcie ilustracyjne

To, że modele sztucznej inteligencji potrafią kłamać, nie jest niczym nowym. Większość ludzi doświadczyła „halucynacji sztucznej inteligencji”, w których pewny siebie model udziela odpowiedzi, która nie jest prawdziwa. Halucynacje jednak polegają zasadniczo na śmiałym zgadywaniu.

Zupełnie inną sprawą jest jednak model sztucznej inteligencji, który zachowuje się tak, jakby wykonywał polecenia, ale w rzeczywistości ukrywa swoje prawdziwe intencje.

Wyzwanie kontrolowania sztucznej inteligencji

Firma Apollo Research opublikowała w grudniu artykuł dokumentalny opisujący sposób działania pięciu modeli, którym polecono osiągnięcie celu „za wszelką cenę”.

Najbardziej zaskakujące jest to, że jeśli model rozumie, że jest testowany, może udawać, że nie jest spiskowcem, tylko po to, by zdać test, nawet jeśli nadal jest spiskowcem. „Modele często są bardziej świadome tego, że są oceniane” – piszą badacze.

Twórcy sztucznej inteligencji nie odkryli jeszcze, jak wytrenować swoje modele, aby nie tworzyły wykresów. To dlatego, że mogłoby to w rzeczywistości nauczyć model jeszcze lepszego tworzenia wykresów, aby uniknąć wykrycia.

Można zrozumieć, że modele sztucznej inteligencji pochodzące od wielu podmiotów celowo wprowadzają ludzi w błąd, ponieważ są one tworzone w celu symulowania ludzi i w dużej mierze szkolone na danych generowanych przez człowieka.

Rozwiązania i ostrzeżenia

Dobra wiadomość jest taka, że ​​naukowcy zaobserwowali znaczną redukcję liczby teorii spiskowych dzięki zastosowaniu techniki antysemickiej zwanej „celowym kojarzeniem”. Technika ta, przypominająca kazanie dziecku powtarzać zasady przed pozwoleniem mu na grę, zmusza sztuczną inteligencję do myślenia, zanim zacznie działać.

Naukowcy ostrzegają przed przyszłością, w której sztuczna inteligencja będzie wykonywać bardziej złożone zadania: „W miarę jak sztuczna inteligencja będzie wykonywać coraz bardziej złożone zadania i zacznie realizować coraz bardziej niejednoznaczne cele długoterminowe, przewidujemy, że prawdopodobieństwo wystąpienia złych zamiarów będzie rosło, co będzie wymagało odpowiednio większych zabezpieczeń i rygorystycznych możliwości testowania”.

Warto się nad tym zastanowić, ponieważ świat korporacji zmierza w stronę przyszłości opartej na sztucznej inteligencji, w której firmy wierzą, że sztuczną inteligencję można traktować jak niezależnych pracowników.

Hien Thao (według TechCrunch)

Źródło: https://doanhnghiepvn.vn/chuyen-doi-so/phat-hien-mo-hinh-ai-biet-lua-doi-con-nguoi/20250919055143362