AI 문제의 핵심

실리콘 밸리의 데이터 센터와 하드웨어 산업 분야에서 30년의 경력을 쌓은 앤드류 위는 "이해할 수 없습니다."라고 말했습니다.

그를 당혹스럽게 하고 심지어 화나게 만든 것은 미래의 AI 슈퍼컴퓨터가 예상하는 에너지 수요였습니다. 이 기계는 인류의 엄청난 도약을 촉진할 것으로 기대되었습니다.

Apple과 Meta에서 고위직을 역임했고 현재 클라우드 공급업체 Cloudflare의 하드웨어 책임자인 Wee는 AI에 필요한 에너지의 현재 증가 추세는 지속 불가능하다고 생각합니다. 세계 경제 포럼은 2030년까지 연평균 50%씩 증가할 것으로 추산합니다.

위는 "우리는 이 문제를 해결하기 위해 기술적 해결책, 정책적 해결책 및 기타 해결책을 함께 찾아야 합니다."라고 말했습니다.

AI 칩의 새로운 길

그러한 목적을 위해 Cloudflare의 Wee 팀은 2023년에 설립된 신생 기업인 Positron의 완전히 새로운 유형의 칩을 테스트하고 있으며, Positron은 방금 5,160만 달러의 새로운 투자 라운드를 발표했습니다.

이러한 칩은 추론 작업 분야의 선두주자인 엔비디아의 칩보다 훨씬 더 에너지 효율적일 가능성이 있습니다.

이는 사용자 요청으로부터 AI 응답을 생성하는 과정입니다. 당분간 엔비디아 칩은 AI 학습에 계속 사용될 것이지만, 더 효율적인 추론을 통해 기업은 수천억 달러의 비용과 그에 상응하는 에너지를 절약할 수 있습니다.

WSJ 에 따르면, 클라우드 컴퓨팅 공급업체에 미래의 맞춤형 추론 칩을 판매하기 위해 경쟁하는 칩 스타트업이 최소 12개나 있다고 합니다.

아이언우드 칩은 구글이 추론 작업을 위해 특별히 개발했습니다. 사진: 구글.

Google, Amazon, Microsoft도 이 분야에 참여하여 자체 AI 도구를 구동하고 클라우드 서비스를 통해 파트너에게 판매할 추론 중심 칩을 개발하고 있습니다.

목표를 달성하기 위해, 새로운 AI 칩 제조업체들은 "고전적인" 전략을 사용하고 있습니다. 즉, 컴퓨팅에서 갑자기 중요해지고 있는 새로운 종류의 작업에 맞춰 칩을 처음부터 다시 설계하는 것입니다.

이것이 과거 그래픽 카드의 공식이었고, 엔비디아가 지금의 성공을 거둔 방식이기도 합니다. 그래픽 칩을 AI에 다시 적용하는 데는 시간이 걸렸지만, 현실적으로 완벽한 조합은 아니었습니다.

"병목"

구글의 AI 칩 개발 프로그램을 이끌었던 조나단 로스는 강력한 AI 모델만 실행하도록 최적화된 칩을 설계하는 완전히 새로운 방법이 있다고 믿었기 때문에 Groq라는 스타트업을 설립했다고 말했습니다.

Groq는 자사 칩이 엔비디아의 최고 칩보다 훨씬 빠르게 AI 기능을 제공할 수 있으며, 가장 중요한 점은 전력 소모가 3분의 1에 불과하다는 것입니다.

SemiAnalysis의 분석가인 조던 나노스에 따르면, 이는 메모리를 별도로 두지 않고 내부에 내장한 독특한 설계 덕분이며, 스타트업이 엔비디아 시스템보다 더 낮은 비용으로 추론 작업을 제공할 수 있는 것도 합리적입니다.

한편, 포지트론(Positron)은 더 빠른 추론을 제공하기 위해 다른 접근 방식을 취하고 있습니다. 클라우드플레어(Cloudflare)와 파트너십을 맺은 이 스타트업은 작업 속도 향상만을 목표로, 더 좁은 범위의 기능을 갖춘 단순화된 칩을 개발했습니다.

포지트론의 차세대 시스템은 엔비디아의 차세대 칩인 베라 루빈과 직접 경쟁할 것으로 예상됩니다. 포지트론의 CEO 미테시 아그라왈에 따르면, 엔비디아의 로드맵에 따르면 포지트론 칩은 효율이 2~3배 더 높고, 입력 단위당 전력은 3~6배 더 높을 것입니다.

포지트론의 차세대 칩은 더 좁은 범위의 기능으로 단순화되었으며, 작업 속도 향상에만 집중합니다. 사진: 포지트론

컴퓨팅 역사에서 하드웨어 엔지니어가 어떤 일을 더 빠르고 효율적으로 수행하는 방법을 알아낼 때마다 프로그래머와 소비자는 그 모든 새로운 성능 향상을 활용하는 방법을 알아낸다는 것은 진부한 말입니다.

Google Cloud의 AI 및 컴퓨팅 인프라 부문 부사장인 마크 로마이어는 소비자와 기업이 새롭고 더욱 까다로운 AI 모델을 채택함에 따라, 팀이 AI를 아무리 효율적으로 제공하더라도 수요는 끝이 없을 것이라고 말했습니다.

대부분의 다른 주요 AI 공급업체와 마찬가지로 Google은 핵융합 및 핵융합 발전을 포함한 전력 시스템에 에너지를 공급하는 획기적인 새로운 방법을 찾기 위해 노력하고 있습니다.

새로운 칩이 개별 기업의 AI 구현 효율성을 높이는 데 도움이 될 수 있지만, 업계 전체는 여전히 점점 더 많은 에너지를 소비하는 추세입니다. Anthropic의 최근 보고서에 따르면, 이는 데이터 센터와 칩이 아니라 에너지 생산이 미래 AI 개발의 진정한 병목이 될 수 있음을 의미합니다.

출처: https://znews.vn/chia-khoa-cho-van-de-cua-ai-post1572212.html