Medeoprichter van OpenAI onthult over super-AI

Andrej Karpathy, mede-oprichter van OpenAI. Foto: Dwarkesh Patel .

Terwijl velen in de techindustrie geloven dat kunstmatige algemene intelligentie (AGI) op het punt staat werkelijkheid te worden, heeft Andrej Karpathy, een gerenommeerd wetenschapper die Chief AI Officer van Tesla was en medeoprichter van OpenAI, een andere mening. Hij gelooft dat de weg naar AGI nog lang is en dat de wereld minstens nog een decennium nodig heeft om de fundamentele uitdagingen te overwinnen.

"De problemen zijn oplosbaar, hoewel ze op dit moment lastig zijn. Ik denk dat het ongeveer tien jaar zal duren om alle huidige beperkingen te overwinnen", zei Karpathy in een recent gesprek.

Waardevolle les

Volgens de heer Karpathy heeft de snelle ontwikkeling van grote taalmodellen (LLM) in de afgelopen jaren velen doen geloven dat het tijdperk van "AI-agenten", systemen met autonome mogelijkheden, is aangebroken. De voormalige directeur AI bij Tesla is het hier echter niet mee eens. Hij is van mening dat 2025 niet "het jaar van de AI-agent" is.

Hij legt uit dat hulpmiddelen als Claude en Codex het potentieel hebben om mensen bij veel taken te ondersteunen, maar dat ze nog lang niet als ‘digitale collega’s’ worden beschouwd.

"Op dit moment zijn AI-agenten niet slim genoeg, ze gebruiken computers niet van nature en ze hebben niet het vermogen om continu te leren. Je kunt ze niet iets vertellen en verwachten dat ze het onthouden. Ze missen cognitie, en dat is wat de modellen verhindert om echt te werken", aldus Karpathy.

Karpathy was directeur AI bij Tesla. Foto: Teslarati .

Karpathy zegt dat hij in zijn 15-jarige carrière in AI veel keerpunten heeft meegemaakt die de hele sector hebben veranderd. Hij studeerde en werkte met Geoffrey Hinton, de grondlegger van neurale netwerken, aan de Universiteit van Toronto, toen deep learning nog een relatief onbekend vakgebied was. Het succes van AlexNet in 2012 luidde een nieuw tijdperk voor AI in en maakte neurale netwerken de basis voor vele toekomstige toepassingen.

Na de golf van deep learning schakelde de AI-industrie geleidelijk over op het bouwen van agents die konden observeren, handelen en leren van hun omgeving. Een van de eerste experimenten was deep reinforcement learning in een Atari-game rond 2013. Hoewel het destijds als baanbrekend werd beschouwd, gelooft hij dat deze richting "een foute timing" was.

"Het is begrijpelijk dat mensen willen experimenteren in een game-omgeving, waar het makkelijk te simuleren en te meten is. Maar het weerspiegelt de echte wereld niet. Als je AI alleen maar op een toetsenbord laat typen, op een muis laat klikken en op een beloning laat wachten, leert het niets wezenlijks", zei hij.

Niet het juiste moment

Tijdens zijn tijd bij OpenAI werkte Karpathy aan Project Universe, een poging om een muis- en toetsenbordgestuurde agent te ontwikkelen die taken uit de echte wereld kon uitvoeren. Hij geeft echter toe dat het project "te vroeg" was.

"We beschikken nog niet over de kracht van neurale netwerken en we beschikken nog niet over het grote taalmodelleringsplatform dat we vandaag de dag hebben", aldus Karpathy.

Karpathy denkt dat het tien jaar zal duren om AGI te ontwikkelen. Foto: Vidhya .

De wetenschapper voegde eraan toe dat modellen een solide basis in taalrepresentatie en cognitie nodig hebben om een echt intelligente agent te ontwikkelen. Karpathy vergeleek het proces van voortraining met internetdata met een vorm van "slechte evolutie". Dit proces helpt AI echter een enorme hoeveelheid kennis en basisredeneringsvermogen te vergaren.

Hij waarschuwt echter dat te veel vertrouwen op bestaande kennis AI minder creatief kan maken. "Misschien moeten we een manier vinden om een deel van de kennis te verwijderen en te laten wat we de cognitieve kern noemen, het deel dat het vermogen om te denken, problemen op te lossen en strategieën te ontwikkelen vertegenwoordigt", aldus Karpathy.

AI bevindt zich dan ook in een overgangsfase. De combinatie van de kracht van taalmodellen en het handelingsvermogen van agenten zal een nieuw hoofdstuk openen voor technologie. Maar volgens Karpathy kan dat pad niet in enkele jaren worden afgelegd.

Bron: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html