De toekomst van AI ligt niet 'in de handen' van Google of OpenAI

Dat is de inschatting uit een intern memo van de zoekgigant dat onlangs werd vrijgegeven. In dit document uitten Google-managers hun diepe bezorgdheid over de mogelijke nederlaag in de aanhoudende AI-race.

Een vertegenwoordiger van Google bevestigde later de authenticiteit van het document en zei dat het slechts een mening was van een insider van het bedrijf. Hij gaf echter toe dat Google "niet in een positie was om deze race te winnen, en OpenAI evenmin."

De zoekgigant gelooft dat de open source-community de toonaangevende AI-bedrijven verslaat. Hoewel hun producten een kleine voorsprong hebben in kwaliteit, "wordt de kloof ongelooflijk snel kleiner."

De omvang van het kapitaal is niet de belangrijkste factor

AI heeft sinds eind 2022 voor opschudding gezorgd bij het grote publiek met de lancering van ChatGPT, een chatbot gebaseerd op LLM (Large Language Models) ontwikkeld door OpenAI, een startup die nauw verwant is aan Microsoft. Het succes van dit product heeft Google en vele andere techbedrijven ertoe aangezet om zich in de LLM-race te mengen.

LLM-modellen worden getraind met biljoenen woorden die van het internet zijn verzameld om mensachtige teksten of gesprekken te creëren. Dit proces duurt maanden en kost tientallen miljoenen dollars, wat leidt tot de vrees dat AI gedomineerd zal worden door "rijke, welvarende" technologiebedrijven.

Door de open source community ontwikkelde AI vormt een serieuze concurrent voor giganten uit de sector, zoals Google en OpenAI.

Maar een intern memo van Google suggereert dat deze aanname onjuist is. Onderzoekers in de open-sourcecommunity maken gebruik van gratis online bronnen en behalen resultaten die vergelijkbaar zijn met de grootste, gepatenteerde modellen van vandaag.

Daarom kunnen LLM's worden 'fijngeslepen' met behulp van een techniek die low-level adaptation (LoRa) wordt genoemd. Hiermee kan een bestaande LLM veel sneller en goedkoper worden geoptimaliseerd voor een specifieke taak dan wanneer een LLM helemaal opnieuw moet worden opgeleid.

Zo lekte in maart LLaMa, een model van Facebook-moederbedrijf Meta, online uit. Hoewel het klein en relatief "primitief" was met slechts 7 miljard parameters, vergeleken met de 540 miljard parameters van Google's grootste LLM, werd LLaMa snel verfijnd om resultaten te produceren die vergelijkbaar waren met de originele versie van ChatGPT voor sommige taken.

Dit zou een enorme impact kunnen hebben op de toekomst van de ontwikkeling van AI, omdat “de barrières voor training en testen afnemen, van de noodzaak van een groot onderzoekscentrum tot de noodzaak van slechts één persoon, één avond en een geavanceerde laptop.”

De strijd tussen de reus Goliath en de herder David

Nu kan een LLM voor slechts $ 100 in een paar uur worden afgerond. Met zijn flexibele, verbonden en goedkope model "heeft open-source AI aanzienlijke voordelen" die grote bedrijven zoals Google niet kunnen evenaren. Daarom concludeert het memo dat Google en OpenAI kwetsbaar zijn voor deze open-sourceconcurrenten.

De open source community biedt voordelen die techgiganten niet kunnen evenaren.

"Ik denk niet dat ik voor veel taken iets zo krachtigs als ChatGPT-4 nodig heb", vertelde Simon Willison, programmeur en technisch analist, aan NBC. "De vraag is nu hoe klein de modellen kunnen zijn en toch bruikbaar blijven? En dat is iets wat de opensourcecommunity razendsnel onderzoekt ."

Dit komt volledig overeen met de mening van veel deskundigen dat het sterkste punt ook het zwakste punt is als het op de juiste manier wordt benut en in acht genomen, zoals in het verhaal over de reus Goliath die door de kleine herdersjongen David wordt verslagen met alleen een slinger.

Als het echter om AI-ontwikkeling gaat, is niet iedereen het met deze stelling eens. Feit is dat er nog steeds betaalde propriëtaire software bestaat, zoals Adobe Photoshop of Microsoft Windows, en de AI-sector zou hetzelfde ontwikkelingspad kunnen volgen.

(Volgens Economist, YahooFinance)

Bron