AI-experten lämnade OpenAI, företaget han var med och grundade, tidigare i år för att starta sitt eget AI-labb som heter Safe Superintelligence Inc.

”Förträning som vi känner den kommer att upphöra att existera”, sa Sutskever vid en konferens om neural informationsbehandling.

Termen "förträning" hänvisar till det tidiga skedet i AI-modellutveckling, när en stor språkmodell lär sig mönster från stora mängder omärkt data, ofta text från internet, böcker och andra källor.

Uttömning av dataresurser

Sutskever sa att även om han tror att aktuell data fortfarande kan påskynda AI-utvecklingen, så håller branschen på att få slut på nya resurser för att utbilda modeller.

Detta, säger han, kommer så småningom att leda till en förändring i hur AI-modeller tränas idag.

8da2491217a6b424c37773100bec59ff.jpeg
AI-modeller kommer att lista ut hur de ska träna sig själva baserat på begränsade mängder data. Foto: Yahoo Tech

Detta är också den situation som har inträffat och händer med fossila resurser, när oljefält är en begränsad resurs, eller som internet bara innehåller en begränsad mängd mänskligt skapat innehåll.

”Vi har nått toppen av data och det kommer inte att finnas där i framtiden”, sa Sutskever. ”Vi måste arbeta med den data som finns tillgänglig, med en aktuell internetkälla.”

Sutskever förutspår att nästa generations modeller kommer att vara "verkligt agentlika". "Agent" är en populär term inom AI-området, allmänt förstådd som ett autonomt AI-system som utför uppgifter, fattar beslut och interagerar med programvara oberoende av varandra.

Förutom att vara ”agentliknande” sa han att framtida AI-system kommer att kunna resonera. Till skillnad från nuvarande AI, som främst känner igen mönster baserat på vad modellen har lärt sig tidigare, kommer framtida AI-system att kunna lösa problem steg för steg på ett sätt som ligger närmare tänkande. ”Ju mer resonemang, desto mindre förutsägbart blir systemet”, sa Sutskever.

AI kan skapa sitt eget sätt att träna sig själv

Experten jämförde också utvecklingen av AI-system med evolutionär biologi och hänvisade till forskning som visar sambandet mellan hjärn- och kroppsstorlek hos djur.

Till exempel, medan de flesta däggdjur följer ett visst proportionellt mönster, har människor markant olika hjärn- och kroppsproportioner.

Och vid någon tidpunkt, i takt med att evolutionen hittar nya takter för våra förfäders hjärntillväxt, kan AI också hitta nya sätt att skala bortom det nuvarande sättet att träna modeller.

(Enligt TheVerge, Yahoo Tech)

När Elon Musk avslöjade de "skyhöga" lönerna för xAI och OpenAI anklagade han OpenAI för att betala anställda för mycket och kallade detta konkurrenshämmande. Miljardärens startupföretag xAI betalar dock också mycket högre än genomsnittet.