OpenAI-medgründer avslører om super-AI

Andrej Karpathy, medgründer av OpenAI. Foto: Dwarkesh Patel .

Mens mange i teknologibransjen tror at kunstig generell intelligens (AGI) er i ferd med å bli en realitet, har Andrej Karpathy, en anerkjent forsker som fungerte som Teslas sjef for AI og medgründer av OpenAI, tatt et annet syn. Han mener at veien til AGI fortsatt er lang, og at verden vil trenge minst et tiår til for å overvinne de grunnleggende utfordringene.

«Problemene er løsbare, selv om de er vanskelige for øyeblikket. Jeg tror det vil ta omtrent ti år å overvinne alle de nåværende begrensningene», sa Karpathy i en nylig samtale.

Verdifull lærdom

Ifølge Karpathy har den raske utviklingen av store språkmodeller (LLM) de siste årene fått mange til å tro at æraen med «AI-agenter», systemer med autonome evner, er kommet. Den tidligere sjefen for AI hos Tesla er imidlertid uenig i dette synet. Han mener at 2025 ikke er «AI-agentens år».

Han forklarer at verktøy som Claude og Codex viser potensial til å hjelpe mennesker med mange oppgaver, men de er fortsatt langt fra å bli ansett som «digitale kolleger».

«Akkurat nå er ikke AI-agenter smarte nok, de bruker ikke datamaskiner naturlig, og de har ikke evnen til å lære kontinuerlig. Du kan ikke fortelle dem noe og forvente at de skal huske det. De mangler kognisjon, og det er det som hindrer modellene i å fungere», sa Karpathy.

Karpathy var Teslas direktør for AI. Foto: Teslarati .

I løpet av sin 15 år lange karriere innen AI sier Karpathy at han har sett mange vendepunkter som har forandret hele bransjen. Han studerte og jobbet med Geoffrey Hinton, nevrale nettverks far, ved University of Toronto, da dyp læring fortsatt var et relativt ukjent studiefelt. Suksessen til AlexNet i 2012 innledet en ny æra for AI, og gjorde nevrale nettverk til grunnlaget for mange fremtidige applikasjoner.

Etter bølgen av dyp læring gikk AI-bransjen gradvis over til å bygge agenter som kunne observere, handle og lære av omgivelsene sine. Et av de første eksperimentene var dyp forsterkningslæring på et Atari-spill rundt 2013. Selv om det ble ansett som banebrytende på den tiden, mener han at denne retningen var «en timingfeil».

«Det er forståelig at folk ønsker å eksperimentere i et spillmiljø, hvor det er enkelt å simulere og måle. Men det gjenspeiler ikke den virkelige verden . Hvis du bare lar AI skrive på et tastatur, klikke på en mus og vente på en belønning, vil den ikke lære noe vesentlig», sa han.

Ikke riktig tidspunkt

Mens han var hos OpenAI, jobbet Karpathy med Project Universe, et forsøk på å lage en mus- og tastaturstyrt agent som kunne utføre oppgaver i den virkelige verden. Han innrømmer imidlertid at prosjektet var «for tidlig».

«Vi har ikke kraften til nevrale nettverk ennå, og vi har ikke den store språkmodelleringsplattformen vi har i dag», sa Karpathy.

Karpathy mener det vil ta et tiår å utvikle AGI. Foto: Vidhya .

Vitenskapsmannen la til at for å utvikle en agent som er virkelig intelligent, må modeller ha et solid grunnlag i språkrepresentasjon og kognisjon. Karpathy sammenlignet prosessen med forhåndstrening på internettdata med en form for «dårlig evolusjon». Denne prosessen hjelper imidlertid AI med å samle en enorm mengde kunnskap og grunnleggende resonneringsevner.

Han advarer imidlertid om at det å stole for mye på eksisterende kunnskap kan gjøre AI mindre kreativ. «Kanskje vi må finne en måte å fjerne noe av kunnskapen på og legge igjen det vi kaller den kognitive kjernen, den delen som representerer evnen til å tenke, løse problemer og legge strategier», sa Karpathy.

AI går derfor inn i en overgangsfase. Kombinasjonen av kraften i språkmodeller og agenters evne til å handle vil åpne et nytt kapittel for teknologi. Imidlertid kan ikke denne veien telles i løpet av få år, ifølge Karpathy.

Kilde: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html