De toekomst van AI ligt niet in handen van Google of OpenAI.

Dat is een inschatting afkomstig uit een recent uitgelekt intern memo van de zoekgigant. In hetzelfde document uitten Google-managers hun grote bezorgdheid over de mogelijkheid om de huidige AI-race te verliezen.

Een vertegenwoordiger van Google bevestigde later de authenticiteit van het document en verklaarde dat het slechts een mening was van iemand binnen het bedrijf, maar erkende dat ze "niet in een positie zijn om deze race te winnen, en OpenAI evenmin."

De zoekgigant is van mening dat de open-sourcegemeenschap de toonaangevende AI-bedrijven aan het verslaan is, ondanks dat hun producten een klein kwaliteitsvoordeel hebben, maar "het verschil wordt ongelooflijk snel kleiner."

De omvang van het kapitaal is niet de belangrijkste factor.

AI heeft sinds eind 2022 veel aandacht getrokken met de lancering van ChatGPT, een chatbot gebaseerd op LLM (large language models) ontwikkeld door OpenAI – een startup die nauw verbonden is met Microsoft. Het succes van dit product heeft Google en vele andere technologiebedrijven ertoe aangezet om ook in de LLM-race te stappen.

LLM-modellen worden getraind met behulp van triljoenen woorden die van internet worden gehaald om tekst of gesprekken te genereren die op menselijke spraak lijken. Dit proces duurt maanden en kost tientallen miljoenen dollars, wat leidt tot de zorg dat AI gedomineerd zal worden door rijke technologiebedrijven.

AI ontwikkeld door de open-sourcegemeenschap wordt een serieuze concurrent voor industriereuzen zoals Google en OpenAI.

Interne Google-documenten suggereren echter dat deze aanname onjuist is. Onderzoekers in de open-sourcegemeenschap maken gebruik van gratis online bronnen en behalen resultaten die vergelijkbaar zijn met die van zelfs de grootste commerciële modellen van vandaag.

Daarom kunnen LLM's worden "afgestemd" via een techniek genaamd low-level adaptation, of LoRa, waarmee een bestaande LLM snel en tegen veel lagere kosten kan worden geoptimaliseerd voor een specifieke taak dan wanneer een LLM helemaal opnieuw wordt getraind.

In maart lekte bijvoorbeeld LLaMa, een model ontwikkeld door Meta – het moederbedrijf van Facebook – online uit. Hoewel het klein en vrij "primitief" was met slechts 7 miljard parameters, vergeleken met de 540 miljard parameters in Google's grootste LLM, werd LLaMa snel verfijnd om op sommige taken resultaten te leveren die vergelijkbaar waren met de oorspronkelijke versie van ChatGPT.

Dit zou een enorme impact kunnen hebben op de toekomst van AI-ontwikkeling, aangezien "de drempels voor training en testen, die voorheen een groot onderzoekscentrum vereisten, zijn teruggebracht tot slechts één persoon, één avond en een krachtige laptop."

De strijd tussen de reus Goliath en de herder David.

Een LLM (Large-Led Model) kan nu voor slechts $100 in een paar uur worden verfijnd. Dankzij het flexibele, onderling verbonden en goedkope model heeft "open-source AI een aanzienlijk voordeel" dat grote bedrijven zoals Google niet kunnen evenaren. Het document concludeert daarom dat Google of OpenAI kwetsbaar zijn voor deze open-source concurrenten.

De open-sourcegemeenschap heeft voordelen die techreuzen niet kunnen evenaren.

"Ik denk niet dat ik voor veel taken iets zo krachtig als ChatGPT-4 nodig heb," vertelde Simon Willison, programmeur en technologieanalist, aan NBC. "De vraag is nu in hoeverre modellen kunnen worden opgesplitst en toch bruikbaar blijven? En dat is iets waar de open-sourcegemeenschap zich razendsnel mee bezighoudt ."

Dit sluit volledig aan bij de mening van veel experts dat de grootste kracht ook de grootste zwakte kan zijn als deze op de juiste manier wordt benut en geobserveerd, net zoals in het verhaal van de reus Goliath die door de kleine herdersjongen David met slechts een slinger werd verslagen.

Als het echter gaat om de ontwikkeling van AI, zal niet iedereen het hiermee eens zijn. De realiteit is dat er nog steeds propriëtaire, betaalde software bestaat, zoals Adobe Photoshop of Microsoft Windows, en het is goed mogelijk dat het AI-veld een vergelijkbaar ontwikkelingspad zal volgen.

(Volgens The Economist en YahooFinance)

Bron