AI-företag "självförstör" för att påskynda sin tillväxt.

Nvidias VD Jensen Huang. Foto: Reuters .

Bekanta med rädslan för att bli "krossade" av Nvidia, avvecklar många mindre AI-företag proaktivt äldre tekniker innan den större konkurrenten gör sitt drag. Det är också så Tuhin Srivastava, medgrundare av AI-inferensplattformen Baseten, förbereder sig för att reagera när Nvidia lanserar sin nya plattform.

"Inom AI måste man bränna båtarna. Vi har inte bränt dem än, men vi har köpt fotogen", sa Srivastava till Business Insider .

Historien började tidigare i år när Srivastavas team arbetade med resonemangsmodellen DeepSeek R1. Implementeringen stötte på svårigheter på grund av flaskhalsar i AI:ns resonemangsprocess, vilket resulterade i en långsam och ineffektiv respons till klienter.

Även om Baseten hade tillgång till Nvidia H200-chippet – det mest avancerade chipet vid den tiden – hanterade den medföljande programvaran Triton Inference Server inte komplexa inferensförfrågningar väl. Baseten tvingades bygga sin egen programvara för att optimera processen.

I mars förra året introducerade Nvidias VD Jensen Huang Dynamo, en öppen källkodsplattform för inferens som optimerar inferensprocessen på Nvidias chip. Huang beskrev Dynamo som "AI-fabrikens operativsystem".

Jensen Huang talar vid Nvidia GPU Technology Conference (GTC) på SAP Center i San Jose, Kalifornien, USA. Foto: Reuters

Med lanseringen av Dynamo visste Srivastava att Basetens egen plattform snart skulle bli överträffad. Han förutspådde att det skulle ta hans företag flera månader att övergå till det nya systemet.

"Jag var mentalt förberedd på det här", sa han.

Det är inte bara Nvidia; hela maskininlärningsindustrin utvecklas i en rasande takt. AI-modeller blir alltmer komplexa och kräver mer datorkraft, men de blir också snabbt föråldrade i takt med att ingenjörer hittar mer optimerade algoritmer.

"Man kan inte hålla sig till ett enda ramverk eller sätt att göra saker för alltid", kommenterade Karl Mozurkewich, chefsarkitekt på molntjänstföretaget Valdi.

Enligt Brown, en YouTuber och AI-utvecklare, har AI förvandlat saker som en gång ansågs vara "oövervinnliga" av teknikbranschen till saker som "lätt kan kasseras".

Brown berättar att när han arbetade som ingenjör på Twitch mötte han hårt motstånd när han föreslog att omskriva projektet istället för att bygga vidare på den gamla grunden. "Jag var tvungen att lära mig att agera snabbt innan någon kunde stoppa mig", sa han.

Det är också därför AI-startups ofta är mer flexibla än stora företag, som begränsas av föråldrade processer och investeringskostnader.

Quinn Slack, VD för AI-kodningsplattformen Sourcegraph, menar att cirka 80 % av Fortune 500-företagen inser att deras första AI-plattform behöver förändras efter bara ett timslångt möte.

Det är dock inte alla som väljer att "bränna båtarna".

Ben Miller, VD för fastighetsinvesteringsplattformen Fundrise, bygger en ny AI-produkt för sin bransch. Han tror att om den nuvarande modellen är tillräckligt bra kommer företaget inte att stressa med att byta till något nytt.

"Jag håller mig till det som fungerar så länge som möjligt", sa Miller och tillade att en del av anledningen är att han driver en stor organisation.

Millers tänkande illustrerar en vanlig balansgång i branschen: mellan kontinuerlig innovation och att upprätthålla stabilitet.

Mozurkewich betonar att när en produkt väl är väldigt nära konsumenten minskar fördelarna med att "gå fort och ha sönder saker" avsevärt.

"Det finns ingen garanti för att du får fler kunder eller intäkter bara genom att lansera den mest avancerade funktionen", sa han.

I AI -världen , där tekniken förändras varje månad, förblir valet mellan innovation och hållbarhet en stor fråga utan ett bestämt svar.

Källa: https://znews.vn/cac-hang-ai-dang-tu-huy-de-tang-toc-post1549478.html