Spoluzakladatel OpenAI prozrazuje něco o super umělé inteligenci

Andrej Karpathy, spoluzakladatel OpenAI. Foto: Dwarkesh Patel .

Zatímco mnoho lidí v technologickém průmyslu se domnívá, že umělá inteligence (AGI) je na pokraji toho, aby se stala realitou, Andrej Karpathy, renomovaný vědec , který působil jako ředitel pro umělou inteligenci ve společnosti Tesla a spoluzakladatel OpenAI, zaujímá jiný názor. Věří, že cesta k AGI je stále dlouhá a svět bude potřebovat nejméně další desetiletí, aby překonal základní výzvy.

„Problémy jsou řešitelné, i když jsou v tuto chvíli obtížné. Myslím, že překonání všech současných omezení bude trvat asi deset let,“ řekl Karpathy v nedávném rozhovoru.

Cenná lekce

Podle pana Karpathyho vedl rychlý rozvoj modelů velkých jazyků (LLM) v posledních několika letech mnoho lidí k přesvědčení, že nastala éra „agentů umělé inteligence“, systémů s autonomními schopnostmi. Bývalý šéf oddělení umělé inteligence v Tesle však s tímto názorem nesouhlasí. Domnívá se, že rok 2025 není „rokem agentů umělé inteligence“.

Vysvětluje, že nástroje jako Claude a Codex ukazují potenciál pomáhat lidem s mnoha úkoly, ale stále zdaleka nejsou považovány za „digitální kolegy“.

„Agenti s umělou inteligencí v současné době nejsou dostatečně chytří, nepoužívají počítače přirozeně a nemají schopnost se neustále učit. Nemůžete jim něco říct a očekávat, že si to zapamatují. Chybí jim kognitivní funkce, což brání modelům ve skutečném fungování,“ řekl Karpathy.

Karpathy působil jako ředitel pro umělou inteligenci v Tesle. Foto: Teslarati .

Karpathy říká, že během své 15leté kariéry v oblasti umělé inteligence zažil mnoho zlomových bodů, které změnily celé odvětví. Studoval a pracoval s Geoffreyem Hintonem, otcem neuronových sítí, na Univerzitě v Torontu, kdy bylo hluboké učení ještě relativně neznámým oborem. Úspěch AlexNetu v roce 2012 zahájil novou éru umělé inteligence a neuronové sítě se staly základem mnoha budoucích aplikací.

Po vlně hlubokého učení se odvětví umělé inteligence postupně přesunulo k vytváření agentů, kteří by mohli pozorovat, jednat a učit se ze svého prostředí. Jedním z prvních experimentů bylo hluboké posilovací učení ve hře pro Atari kolem roku 2013. Ačkoli byl v té době považován za průlomový, domnívá se, že tento směr byl „chybou načasování“.

„Je pochopitelné, že lidé chtějí experimentovat v herním prostředí, kde je snadné simulovat a měřit. Ale to neodráží skutečný svět . Pokud necháte umělou inteligenci jen psát na klávesnici, klikat myší a čekat na odměnu, nic významného se nenaučí,“ řekl.

Není ten správný čas

Během svého působení v OpenAI Karpathy pracoval na projektu Universe, jehož cílem bylo vytvořit agenta ovládaného myší a klávesnicí, který by mohl vykonávat úkoly v reálném světě. Připouští však, že projekt byl „příliš brzy“.

„Zatím nemáme sílu neuronových sítí a nemáme tak rozsáhlou platformu pro modelování jazyků, jakou máme dnes,“ řekl Karpathy.

Karpathy věří, že vývoj obecné umělé inteligence bude trvat deset let. Foto: Vidhya .

Vědec dodal, že pro vývoj skutečně inteligentního agenta musí mít modely pevný základ v jazykové reprezentaci a kognici. Karpathy přirovnal proces předběžného trénování na internetových datech k formě „špatné evoluce“. Tento proces však pomáhá umělé inteligenci akumulovat obrovské množství znalostí a základních schopností uvažování.

Varuje však, že přílišné spoléhání se na stávající znalosti by mohlo vést k menší kreativitě umělé inteligence. „Možná musíme najít způsob, jak odstranit část znalostí a ponechat to, čemu říkáme kognitivní jádro, tedy část, která představuje schopnost myslet, řešit problémy a strategizovat,“ řekl Karpathy.

Umělá inteligence proto vstupuje do přechodné fáze. Kombinace síly jazykových modelů a schopnosti agentů jednat otevře novou kapitolu pro technologie. Tuto cestu však podle Karpathyho nelze zvládnout jen za několik let.

Zdroj: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html