운영 비용 상승으로 인해 전 세계 기업들은 인공지능(AI) 도입 전략을 재검토하고 있습니다.
투자자들의 지원을 받는 "저렴한 AI" 시대는 저물고 있으며, 비용 최적화에 대한 강한 압력이 대두되고 있습니다.
ChatGPT가 전 세계적인 센세이션을 일으킨 후, AI 기업들은 실리콘 밸리에서 흔히 볼 수 있는 전략, 즉 고객을 확보하기 위해 파격적인 가격을 제시하는 전략을 채택했습니다.
델피 랩스 스타트업 인큐베이터의 케빈 심백은 이를 "보조금 지원 지능" 시대라고 부르며, 투자자들이 기업들이 매우 저렴한 가격으로 AI에 접근할 수 있도록 비용을 기꺼이 부담하는 시대라고 설명합니다.
하지만 "상황이 바뀌었다." 전문가들은 이제 AI 대기업들이 수익성을 입증해야 하는 상황에 놓였다고 경고한다. 이러한 움직임은 시장 선두주자인 오픈AI와 앤트로픽이 올해 하반기 개인 투자자들을 유치하기 위해 기업공개(IPO)를 앞두면서 더욱 가속화되고 있다.
비용이 전반적으로 상승하고 있으며, 가장 큰 원인은 AI 에이전트의 등장입니다. 단순히 질문에 답하는 기존 챗봇과 달리, AI 에이전트는 약속 예약, 코드 작성, 데이터 관리와 같은 작업을 직접 수행할 수 있습니다. 복잡한 작업의 경우 수십 개의 에이전트가 동시에 작동하여 AI 모델의 지불 단위인 "토큰"을 일반 메시지보다 수십 배 더 많이 소모합니다.
칩 부족과 데이터 센터 부족 또한 비용 문제를 악화시켰습니다. 기술 컨설팅 회사인 옴니욱스의 마크 바튼은 프로그래밍 분야에서 AI 사용 비용이 기하급수적으로 증가했다고 밝혔습니다.
특히, 이러한 "기술 열풍"은 "토큰 극대화"라고도 불리는 AI의 오용으로 이어졌습니다.
J.Gold Associates의 애널리스트 잭 골드는 많은 경우 기업들이 AI를 과도하게 사용하여 단 한두 달 만에 토큰 구매 비용이 직원 급여 지급 비용을 초과하는 지경에 이르렀다고 지적합니다.
재정적 압박에 직면한 많은 기업들이 정책을 변경해야 했습니다. 월스트리트 저널에 따르면, 메타의 최고 기술 책임자(CTO)인 앤드류 보스워스는 최근 직원들에게 AI 도구를 단순히 사용하기 위해 사용하지 말아달라는 내용의 메모를 보냈습니다. 이는 생산성 향상을 위해 토큰을 최대한 활용하도록 장려했던 올해 초 정책에서 완전히 뒤집힌 것입니다.
이번 주, 우버의 최고운영책임자(COO)는 인공지능에 대한 막대한 투자에도 불구하고 아직까지 실질적인 생산성 향상을 가져오지 못했다고 솔직하게 인정했습니다.
비용 절감을 위해 일부 기업들은 무료 오픈소스 AI 모델을 활용하고 있습니다. 이러한 모델은 ChatGPT나 Anthropic의 Claude만큼 강력하지는 않지만, 많은 일반적인 작업에는 충분합니다. 또 다른 기업들은 대규모 범용 모델 대신 부동산이나 금융과 같은 특정 분야에 특화된 소규모 모델을 선택하기도 합니다. AI 작업을 더 작은 단계로 나누고 각 단계를 처리할 수 있는 가장 저렴한 모델에 할당하는 방식도 있습니다.
컨설팅 회사 엔베르소의 아드리안 발포어는 거대한 단일체 모델의 경우 백만 토큰당 15달러의 비용이 들지만, 규모를 축소한 모델을 사용하면 5센트로 줄일 수 있다고 말했습니다.
이러한 추세는 AI가 점차 보편화되고 있으며, 유명 브랜드 제품을 쫓기보다는 적절한 가격에 적합한 모델을 찾는 것이 더 중요해지고 있음을 시사합니다. 하지만 전문가들은 고성능 모델의 중요성은 여전히 유지될 것이라고 전망합니다.
가벨리 펀드의 포트폴리오 매니저인 존 벨튼은 "기술에 가장 정통한 소비자들은 언제나 최고의 제품에 기꺼이 돈을 지불할 것입니다. 시장 규모는 계속해서 커지고 있습니다."라고 말했습니다.
출처: https://www.vietnamplus.vn/chi-phi-cho-ai-leo-thang-khien-doanh-nghiep-phai-thay-doi-chien-luoc-post1113738.vnp









댓글 (0)