AI-bedrijven zijn op zoek naar grote winsten uit 'kleine taalmodellen'

Apple, Microsoft, Meta en Google hebben onlangs allemaal nieuwe AI-modellen uitgebracht met minder 'parameters', maar nog steeds krachtige mogelijkheden. Dit is een poging van technologiegroepen om bedrijven met financiële beperkingen aan te moedigen om AI te blijven gebruiken.

Illustratie: FT

Over het algemeen geldt: hoe hoger het aantal parameters, hoe beter de prestaties van AI-software en hoe complexer en genuanceerder de taken. OpenAI's nieuwste GPT-4o-model en Google's Gemini 1.5 Pro, beide deze week aangekondigd, hebben naar schatting meer dan 1 biljoen parameters. Ondertussen traint Meta een versie van zijn open-source Llama-model met 400 miljard parameters.

Zorgen over gegevens en auteursrechtelijke aansprakelijkheid hebben ertoe geleid dat grote technologiebedrijven als Meta en Google kleine taalmodellen met slechts een paar miljard parameters uitbrengen. Deze modellen zijn goedkoper, energiezuiniger, aanpasbaar, vereisen minder energie om te trainen en uit te voeren en kunnen ook voorkomen dat gevoelige gegevens worden vastgelegd.

"Door die hoge kwaliteit tegen lagere kosten te krijgen, krijgen klanten daadwerkelijk toegang tot meer applicaties", aldus Eric Boyd, corporate vice president van Microsoft's Azure AI Platform, dat AI-modellen aan bedrijven verkoopt.

Google, Meta, Microsoft en de Franse startup Mistral hebben ook kleine taalmodellen uitgebracht, maar deze laten nog steeds vooruitgang zien en kunnen zich beter richten op specifieke taken.

Nick Clegg, president Global Affairs bij Meta, zei dat het nieuwe model met 8 miljard parameters van Llama 3 vergelijkbaar is met GPT-4. Microsoft zei dat zijn kleine Phi-3-model, met 7 miljard parameters, beter presteert dan GPT-3.5, de vorige versie van OpenAI's model.

Microchips kunnen taken ook lokaal op het apparaat verwerken in plaats van dat de informatie naar de cloud wordt verzonden. Dit kan aantrekkelijk zijn voor klanten die hun privacy belangrijk vinden en ervoor willen zorgen dat hun informatie binnen het netwerk blijft.

Charlotte Marshall, partner bij advocatenkantoor Addleshaw Goddard, zei dat "een van de uitdagingen waar veel van onze klanten mee te maken hebben gehad" bij de implementatie van generatieve AI-producten, het voldoen aan wettelijke vereisten rond gegevensverwerking en -overdracht is. Ze zei dat kleinere modellen "bedrijven de kans bieden om juridische en kostenoverwegingen te overwinnen".

Kleinere modellen maken het ook mogelijk om AI-functies te gebruiken op apparaten zoals mobiele telefoons. Googles "Gemini Nano"-model is ingebouwd in de nieuwste Pixel-telefoons en Samsungs nieuwste S24-smartphone.

Apple heeft ook bekendgemaakt dat het AI-modellen ontwikkelt voor zijn bestverkochte iPhone. Vorige maand bracht de Silicon Valley-gigant OpenELM uit, een klein model dat is ontworpen om teksttaken uit te voeren.

Boyd van Microsoft zei dat de kleinere modellen zullen leiden tot "interessante toepassingen, zelfs voor telefoons en laptops."

OpenAI-directeur Sam Altman zei in november dat het ook AI-modellen van verschillende groottes aan klanten aanbiedt die "verschillende doelen dienen". "Er zijn dingen die kleinere modellen heel goed zullen doen. Daar ben ik enthousiast over", zei hij.

Altman voegde toe dat OpenAI zich nog steeds richt op het bouwen van grotere, schaalbare AI-modellen, inclusief de mogelijkheid om te redeneren, plannen en taken uit te voeren en uiteindelijk menselijke intelligentie te bereiken.

Hoang Hai (volgens FT)

Bron: https://www.congluan.vn/cac-cong-ty-ai-dang-tim-kiem-loi-nhuan-lon-tu-cac-mo-hinh-ngon-ngu-nho-post296219.html