OpenAIs medgrundare avslöjar om super-AI

Andrej Karpathy, medgrundare av OpenAI. Foto: Dwarkesh Patel .

Medan många inom teknikbranschen tror att artificiell generell intelligens (AGI) är på väg att bli verklighet, har Andrej Karpathy, en välkänd forskare som var Teslas chef för AI och medgrundare av OpenAI, intagit en annan uppfattning. Han tror att vägen till AGI fortfarande är lång och att världen kommer att behöva minst ytterligare ett decennium för att övervinna de grundläggande utmaningarna.

”Problemen är lösbara, även om de är svåra just nu. Jag tror att det kommer att ta ungefär tio år att övervinna alla nuvarande begränsningar”, sa Karpathy nyligen i ett samtal.

Värdefull läxa

Enligt Karpathy har den snabba utvecklingen av stora språkmodeller (LLM) under de senaste åren fått många att tro att eran av "AI-agenter", system med autonoma funktioner, har kommit. Den tidigare chefen för AI på Tesla håller dock inte med om denna uppfattning. Han anser att 2025 inte är "AI-agenternas år".

Han förklarar att verktyg som Claude och Codex visar potential att hjälpa människor i många uppgifter, men de är fortfarande långt ifrån att betraktas som ”digitala kollegor”.

"Just nu är AI-agenter inte tillräckligt smarta, de använder inte datorer naturligt och de har inte förmågan att lära sig kontinuerligt. Man kan inte säga något till dem och förvänta sig att de ska komma ihåg det. De saknar kognition, vilket är det som hindrar modellerna från att fungera på riktigt", sa Karpathy.

Karpathy var Teslas chef för AI. Foto: Teslarati .

Under sin 15-åriga karriär inom AI säger Karpathy att han har sett många vändpunkter som har förändrat hela branschen. Han studerade och arbetade med Geoffrey Hinton, neurala nätverks fader, vid University of Toronto, när djupinlärning fortfarande var ett relativt okänt studieområde. AlexNets framgångar 2012 inledde en ny era för AI, vilket gjorde neurala nätverk till grunden för många framtida tillämpningar.

Efter vågen av djupinlärning övergick AI-industrin gradvis till att bygga agenter som kunde observera, agera och lära av sin omgivning. Ett av de första experimenten var djupförstärkningsinlärning i ett Atari-spel runt 2013. Även om den ansågs banbrytande vid den tiden, anser han att denna riktning var "ett timingmisstag".

"Det är förståeligt att folk vill experimentera i en spelmiljö, där det är enkelt att simulera och mäta. Men det återspeglar inte den verkliga världen . Om du bara låter AI skriva på ett tangentbord, klicka på en mus och vänta på en belöning, kommer den inte att lära sig något betydande", sa han.

Inte rätt tidpunkt

Medan han arbetade på OpenAI arbetade Karpathy med Project Universe, ett försök att skapa en mus- och tangentbordsstyrd agent som kunde utföra verkliga uppgifter. Han medger dock att projektet var "för tidigt".

"Vi har inte kraften hos neurala nätverk ännu och vi har inte den stora språkmodelleringsplattformen som vi har idag", sa Karpathy.

Karpathy tror att det kommer att ta ett decennium att utveckla AGI. Foto: Vidhya .

Vetenskapsmannen tillade att för att utveckla en agent som är verkligt intelligent måste modeller ha en solid grund i språkrepresentation och kognition. Karpathy liknade processen med förträning av internetdata vid en form av "dålig evolution". Denna process hjälper dock AI att samla en enorm mängd kunskap och grundläggande resonemangsförmågor.

Han varnar dock för att om man förlitar sig för mycket på befintlig kunskap kan det göra AI mindre kreativ. ”Kanske behöver vi hitta ett sätt att ta bort en del av kunskapen och lämna det vi kallar den kognitiva kärnan, den del som representerar förmågan att tänka, lösa problem och strategiskt planera”, sa Karpathy.

AI går därför in i en övergångsfas. Kombinationen av språkmodellernas kraft och agenternas förmåga att agera kommer att öppna ett nytt kapitel för teknologin. Men den vägen kan, enligt Karpathy, inte räknas i några år.

Källa: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html