Współzałożyciel OpenAI ujawnia informacje o supersztucznej inteligencji

Andrej Karpathy, współzałożyciel OpenAI. Zdjęcie: Dwarkesh Patel .

Podczas gdy wielu przedstawicieli branży technologicznej uważa, że sztuczna inteligencja ogólna (AGI) jest na progu urzeczywistnienia, Andrej Karpathy, znany naukowiec , który pełnił funkcję dyrektora ds. sztucznej inteligencji w Tesli i współzałożyciela OpenAI, ma odmienne zdanie. Uważa, że droga do AGI jest jeszcze długa, a świat będzie potrzebował co najmniej kolejnej dekady, aby przezwyciężyć fundamentalne wyzwania.

„Problemy są możliwe do rozwiązania, choć na razie są trudne. Myślę, że pokonanie wszystkich obecnych ograniczeń zajmie około dziesięciu lat” – powiedział Karpathy w niedawnej rozmowie.

Cenna lekcja

Według pana Karpathy'ego, szybki rozwój dużych modeli językowych (LLM) w ciągu ostatnich kilku lat sprawił, że wielu uważa, że nadeszła era „agentów AI”, czyli systemów o autonomicznych możliwościach. Były szef działu AI w Tesli nie zgadza się jednak z tym poglądem. Uważa, że rok 2025 nie jest „rokiem agenta AI”.

Wyjaśnia, że narzędzia takie jak Claude i Codex mają potencjał wspomagania ludzi w wielu zadaniach, ale wciąż daleko im do bycia „cyfrowymi współpracownikami”.

„Obecnie agenci AI nie są wystarczająco inteligentni, nie korzystają z komputerów w sposób naturalny i nie mają zdolności ciągłego uczenia się. Nie można im czegoś powiedzieć i oczekiwać, że to zapamiętają. Brakuje im zdolności poznawczych, co uniemożliwia modelom rzeczywiste działanie” – powiedział Karpathy.

Karpathy pełnił funkcję dyrektora ds. sztucznej inteligencji w firmie Tesla. Zdjęcie: Teslarati .

W swojej 15-letniej karierze w dziedzinie sztucznej inteligencji, Karpathy mówi, że był świadkiem wielu przełomów, które zmieniły całą branżę. Studiował i współpracował z Geoffreyem Hintonem, ojcem sieci neuronowych, na Uniwersytecie w Toronto, gdy uczenie głębokie było jeszcze stosunkowo mało znaną dziedziną. Sukces AlexNet w 2012 roku zapoczątkował nową erę w dziedzinie sztucznej inteligencji, czyniąc sieci neuronowe fundamentem wielu przyszłych zastosowań.

Po fali głębokiego uczenia, branża sztucznej inteligencji stopniowo przestawiła się na tworzenie agentów, którzy mogli obserwować, działać i uczyć się z otoczenia. Jednym z pierwszych eksperymentów było głębokie uczenie wzmacniające w grze Atari, przeprowadzone około 2013 roku. Choć wówczas uważano to za przełomowe, uważa on, że ten kierunek był „błędem czasowym”.

„Zrozumiałe jest, że ludzie chcą eksperymentować w środowisku gier, gdzie łatwo jest symulować i mierzyć. Ale to nie odzwierciedla rzeczywistości . Jeśli pozwolisz sztucznej inteligencji po prostu pisać na klawiaturze, klikać myszką i czekać na nagrodę, nie nauczy się niczego istotnego” – powiedział.

Nieodpowiedni czas

Pracując w OpenAI, Karpathy pracował nad projektem Universe, mającym na celu stworzenie agenta sterowanego myszką i klawiaturą, który mógłby wykonywać rzeczywiste zadania. Przyznaje jednak, że projekt był „za wczesny”.

„Nie dysponujemy jeszcze mocą obliczeniową sieci neuronowych ani tak rozbudowaną platformą do modelowania języka, jaką mamy dzisiaj” – powiedział Karpathy.

Karpathy uważa, że opracowanie AGI zajmie dekadę. Zdjęcie: Vidhya .

Naukowiec dodał, że aby stworzyć agenta, który będzie naprawdę inteligentny, modele muszą mieć solidne podstawy w zakresie reprezentacji języka i zdolności poznawczych. Karpathy porównał proces wstępnego trenowania na danych internetowych do formy „złej ewolucji”. Proces ten pomaga jednak sztucznej inteligencji zgromadzić ogromną ilość wiedzy i podstawowych zdolności rozumowania.

Ostrzega jednak, że nadmierne poleganie na istniejącej wiedzy może osłabić kreatywność sztucznej inteligencji. „Być może musimy znaleźć sposób na usunięcie części wiedzy i pozostawienie tego, co nazywamy rdzeniem poznawczym, czyli tej części, która odpowiada za zdolność myślenia, rozwiązywania problemów i opracowywania strategii” – powiedział Karpathy.

W związku z tym sztuczna inteligencja wkracza w fazę transformacji. Połączenie potencjału modeli językowych i zdolności agentów do działania otworzy nowy rozdział w historii technologii. Jednak, zdaniem Karpathy'ego, tej drogi nie da się przebiec w ciągu kilku lat.

Source: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html