AI:s framtid ligger inte i Googles eller OpenAIs händer.

[annons_1]

Det är en bedömning hämtad från ett nyligen läckt internt PM från sökjätten. I samma dokument uttryckte Googles chefer djup oro över möjligheten att misslyckas i den pågående AI-kapplöpningen.

En representant för Google bekräftade senare dokumentets äkthet och uppgav att det bara var en åsikt från någon inom företaget, men erkände att de "inte är i en position att vinna den här tävlingen, och det är inte heller OpenAI".

Sökjätten anser att öppen källkod-communityn slår ledande AI-företag, även om deras produkter har en liten kvalitetsfördel, men "gapet minskar otroligt snabbt".

Kapitalstorlek är inte den viktigaste faktorn.

AI har skapat uppmärksamhet bland allmänheten sedan slutet av 2022 med lanseringen av ChatGPT, en chatbot baserad på LLM (stora språkmodeller) utvecklad av OpenAI – en startup nära förknippad med Microsoft. Produktens framgång har fått Google och många andra teknikföretag att hoppa in i kapplöpningen om LLM.

LLM-modeller tränas med hjälp av biljoner ord hämtade från internet för att generera text eller konversationer som liknar mänskligt tal. Denna process tar månader och kostar tiotals miljoner dollar, vilket leder till oro för att AI kommer att domineras av rika teknikföretag.

AI utvecklad av öppen källkod-communityn blir en verklig utmanare för branschjättar som Google och OpenAI.

Interna Google-dokument tyder dock på att detta antagande är felaktigt. Forskare inom öppen källkod utnyttjar gratis online-resurser och uppnår resultat som är jämförbara med även de största proprietära modellerna idag.

Följaktligen kan LLM:er "finjusteras" genom en teknik som kallas lågnivåanpassning, eller LoRa, vilket möjliggör optimering av en befintlig LLM för en specifik uppgift snabbt och till en mycket lägre kostnad än att träna en LLM från grunden.

Till exempel läckte LLaMa, en modell skapad av Meta – Facebooks moderbolag – ut på nätet i mars. Även om den var liten och ganska "primitiv" med bara 7 miljarder parametrar, jämfört med 540 miljarder parametrar i Googles största LLM, förfinades LLaMa snabbt för att producera resultat jämförbara med originalversionen av ChatGPT på vissa uppgifter.

Detta skulle kunna få en seismisk inverkan på framtiden för AI-utveckling eftersom "hindren för utbildning och testning, som tidigare krävde ett stort forskningscenter, har reducerats till bara en person, en kväll och en högpresterande bärbar dator."

Striden mellan jätten Goliat och herden David

Nu kan en juridikexamen finjusteras för bara 100 dollar på några timmar. Med sin flexibla, sammankopplade och lågkostnadsmodell har "öppen källkods-AI en betydande fördel" som stora företag som Google inte kan replikera. Därför drar dokumentet slutsatsen att Google eller OpenAI är sårbara för dessa konkurrenter inom öppen källkod.

Öppen källkod-communityn har fördelar som teknikjättar inte kan replikera.

”Jag tror inte att jag behöver något så kraftfullt som ChatGPT-4 för många uppgifter”, sa Simon Willison, programmerare och teknikanalytiker, till NBC. ”Frågan är nu hur mycket modeller kan brytas ner och fortfarande vara användbara? Och det är något som öppen källkodsgemenskapen utforskar mycket snabbt.”

Detta är helt i linje med många experters uppfattning att den största styrkan också kan vara den största svagheten om den utnyttjas och observeras korrekt, precis som i berättelsen om jätten Goliat som besegras av den lille herdepojken David med bara en slangbella.

Men när det gäller utvecklingen av AI är det inte säkert att alla håller med om detta. Verkligheten är att proprietär, betald programvara fortfarande existerar, såsom Adobe Photoshop eller Microsoft Windows, och AI-området kan mycket väl följa en liknande utvecklingsväg.

(Enligt Economist och YahooFinance)

[annons_2]
Källa