Rosnące koszty operacyjne zmuszają przedsiębiorstwa na całym świecie do ponownej oceny swoich strategii wdrażania sztucznej inteligencji (AI).
Era „taniej sztucznej inteligencji” dotowanej przez inwestorów dobiega końca, ustępując miejsca ogromnej presji na optymalizację kosztów.
Po tym, jak ChatGPT stał się globalną sensacją, firmy zajmujące się sztuczną inteligencją przyjęły strategię znaną z Doliny Krzemowej: oferowanie bardzo niskich cen, aby przyciągnąć klientów.
Kevin Simback z inkubatora startupów Delphi Labs nazywa to erą „dotowanej inteligencji”, w której inwestorzy są skłonni ponieść koszty, aby firmy mogły korzystać ze sztucznej inteligencji po bardzo niskich cenach.
Jednak „wiatr się zmienił”. Eksperci ostrzegają, że giganci sztucznej inteligencji są teraz zmuszeni do udowodnienia rentowności. Ten krok następuje w momencie, gdy dwaj liderzy rynku, OpenAI i Anthropic, gorączkowo przygotowują się do swoich pierwszych ofert publicznych (IPO), aby przyciągnąć inwestorów detalicznych jeszcze w tym roku.
Koszty rosną na wszystkich płaszczyznach, a główną przyczyną jest rozwój agentów AI. W przeciwieństwie do konwencjonalnych chatbotów, które jedynie odpowiadają na pytania, agenci AI są w stanie bezpośrednio wykonywać zadania, takie jak umawianie spotkań, pisanie kodu czy zarządzanie danymi. Złożone zadanie może zmusić dziesiątki agentów do jednoczesnej pracy, zużywając „tokeny” – jednostkę płatniczą dla modeli AI – dziesiątki razy więcej niż zwykła wiadomość.
Niedobory chipów i brak centrów danych dodatkowo zaostrzyły problem kosztów. Mark Barton z firmy konsultingowej Omniux stwierdził, że w świecie programowania koszty korzystania ze sztucznej inteligencji wzrosły wykładniczo.
Warto zauważyć, że „szaleństwo technologiczne” doprowadziło do nadużywania sztucznej inteligencji, znanego również jako „maksymalizacja tokenów”.
Analityk Jack Gold z J.Gold Associates zauważa, że w wielu przypadkach przedsiębiorstwa nadużywają sztucznej inteligencji do tego stopnia, że koszt zakupu tokenów w ciągu zaledwie jednego lub dwóch miesięcy przekracza koszt wypłaty pensji pracownikom.
Pod presją finansową wiele korporacji musiało zmienić swoją politykę. Według „Wall Street Journal”, dyrektor ds. technologii w Meta, Andrew Bosworth, rozesłał niedawno notatkę służbową, w której zwrócił się do pracowników, aby nie korzystali z narzędzi AI tylko po to, by z nich korzystać. Stanowi to odejście od polityki z początku tego roku, która zachęcała do maksymalnego wykorzystania tokenów w celu zwiększenia produktywności.
W tym tygodniu dyrektor operacyjny Ubera szczerze przyznał, że ogromne nakłady na sztuczną inteligencję nie przyniosły jeszcze żadnych konkretnych efektów w zakresie poprawy produktywności.
Aby obniżyć koszty, niektóre firmy sięgają po darmowe, otwarte modele sztucznej inteligencji (AI), które – choć nie są tak wydajne jak ChatGPT czy Claude firmy Anthropic – wciąż wystarczają do wielu typowych zadań. Inne firmy wybierają mniejsze, wyspecjalizowane modele dla konkretnych sektorów, takich jak nieruchomości czy finanse, zamiast rozbudowanych modeli ogólnego przeznaczenia. Innym podejściem jest rozbicie zadań AI na mniejsze kroki i przypisanie każdego z nich do najtańszego modelu, który może je obsłużyć.
Adrian Balfour z firmy konsultingowej Enverso powiedział, że ogromny monolityczny model kosztuje 15 dolarów za milion tokenów, ale stosując model o mniejszej skali, można by tę cenę obniżyć do zaledwie 5 centów.
Ten trend sugeruje, że sztuczna inteligencja stopniowo staje się coraz bardziej powszechnym towarem, w którym znalezienie odpowiedniego modelu w odpowiedniej cenie jest ważniejsze niż pogoń za największymi markami. Eksperci uważają jednak, że modele z wyższej półki nie stracą na popularności.
John Belton, zarządzający portfelem w Gabelli Funds, stwierdził: „Najbardziej zaznajomieni z technologią konsumenci zawsze będą skłonni zapłacić za najlepsze produkty. Tort rynkowy stale rośnie”.
Źródło: https://www.vietnamplus.vn/chi-phi-cho-ai-leo-thang-khien-doanh-nghiep-phai-thay-doi-chien-luoc-post1113738.vnp








Komentarz (0)