Nowe badania: sztuczna inteligencja nie „rozumuje” jak ludzie.

Programy sztucznej inteligencji (AI) osiągnęły wiele imponujących wyników, ale nowe badania sugerują, że nie powinniśmy przeceniać potencjału AI w zakresie rozumowania podobnego do ludzkiego.

Programy sztucznej inteligencji osiągnęły w ostatnich latach wiele przełomów – zdjęcie: REUTERS

Nie jesteśmy w stanie zaobserwować całego procesu – od wprowadzenia danych wejściowych do wyjścia dużych modeli językowych (LLM).

Aby ułatwić zrozumienie, naukowcy użyli popularnych terminów, takich jak „rozumowanie”, aby opisać działanie tych programów. Twierdzą również, że programy te potrafią „myśleć”, „rozumować” i „rozumieć” w taki sam sposób jak ludzie.

Przecenianie możliwości sztucznej inteligencji.

Jak wynika z doniesień ZDNET z 6 września, w ciągu ostatnich dwóch lat wielu dyrektorów zajmujących się sztuczną inteligencją posługiwało się przesadnym językiem, aby wychwalać proste osiągnięcia techniczne.

We wrześniu 2024 roku firma OpenAI ogłosiła, że ​​jej model rozumowania o1 „wykorzystuje ciąg rozumowania podczas rozwiązywania problemów, podobnie jak ludzie myślą długo, gdy stają przed trudnymi pytaniami”.

Jednak naukowcy zajmujący się sztuczną inteligencją nie zgadzają się z tym. Twierdzą, że sztuczna inteligencja nie posiada inteligencji zbliżonej do ludzkiej.

Badanie oparte na bazie danych arXiv przeprowadzone przez zespół autorów z Arizona State University (USA) miało na celu sprawdzenie zdolności sztucznej inteligencji do rozumowania za pomocą prostego eksperymentu.

Wyniki wskazują, że „odwoływanie się do sekwencji myśli jest kruchą iluzją”, nie jest to prawdziwy mechanizm logiczny, a jedynie wyrafinowana forma dopasowywania wzorców.

Termin „CoT” (ang. Co-Thought Chain) pozwala sztucznej inteligencji nie tylko na podanie ostatecznej odpowiedzi, ale także na prezentację każdego kroku logicznego rozumowania, jak w modelach takich jak GPT-o1 czy DeepSeek V1.

Ilustracja modelu językowego GPT-2 autorstwa OpenAI – zdjęcie: ECHOCRAFTAI

Sprawdź, co właściwie robi sztuczna inteligencja.

Zespół badawczy stwierdził, że analizy na dużą skalę wykazały, iż LLM opiera się w większym stopniu na semantyce i powierzchownych wskazówkach niż na procesach logicznego rozumowania.

„LLM-y tworzą powierzchowne sekwencje logiczne w oparciu o wyuczone skojarzenia, często nie radząc sobie z zadaniami, które odbiegają od konwencjonalnych metod rozumowania lub znanych wzorców” – wyjaśnił zespół.

Aby przetestować hipotezę, że LLM jedynie dopasowuje wzorce, a nie wyciąga wniosków, zespół badawczy wytrenował GPT-2, model typu open source firmy OpenAI, uruchomiony w 2019 r.

Model został początkowo wytrenowany na bardzo prostych zadaniach obejmujących 26 liter alfabetu angielskiego, takich jak zmiana kolejności liter, na przykład zamiana „APPLE” na „EAPPL”. Następnie zespół zmienił zadanie i poprosił GPT-2 o jego przetworzenie.

Wyniki pokazały, że w przypadku zadań nieujętych w danych szkoleniowych GPT-2 nie był w stanie dokładnie rozwiązać ich przy użyciu CoT.

Zamiast tego model stara się jak najwierniej zastosować wyuczone zadania. Dlatego jego „rozumowanie” może wydawać się logiczne, ale wyniki często są błędne.

Grupa doszła do wniosku, że nie należy zbytnio polegać na odpowiedziach LLM ani ślepo im ufać, ponieważ mogą one prowadzić do „oświadczeń pozbawionych sensu, ale bardzo przekonujących”.

Podkreślili również potrzebę zrozumienia prawdziwej natury sztucznej inteligencji, unikania przesady i zaprzestania promowania idei, że sztuczna inteligencja ma zdolności rozumowania zbliżone do ludzkich.

Powrót do tematu

ANH CZW

Source: https://tuoitre.vn/nghien-cuu-moi-ai-khong-suy-luan-nhu-con-nguoi-20250907152120294.htm