![]() |
기존 TPU와는 달리, 이 빨간색 컴퓨터 칩은 실리콘과 같은 기존 반도체 소재 대신 탄소 원자가 육각형으로 배열된 작은 원통형 구조물인 탄소 나노튜브를 사용한 최초의 제품입니다. (사진: 산카이) |
AI 모델은 데이터 집약적이며 실행에 막대한 컴퓨팅 파워가 필요합니다. 이는 머신러닝 모델의 학습 및 확장에 큰 걸림돌이 되며, 특히 AI 애플리케이션에 대한 수요가 증가함에 따라 더욱 그렇습니다. 이러한 이유로 과학자들은 프로세서부터 컴퓨터 메모리에 이르기까지 필요한 계산을 수행하는 동안 에너지 소비를 줄이도록 설계된 새로운 구성 요소를 개발하기 위해 노력하고 있습니다.
구글 과학자들은 이러한 과제를 해결하기 위해 2015년 TPU를 개발했습니다. 이 특수 칩은 AI 모델을 학습시키고 실행하는 데 사용되는 복잡한 수학적 계산인 텐서 연산을 위한 전용 하드웨어 가속기 역할을 합니다. TPU는 이러한 작업을 중앙처리장치(CPU)와 그래픽처리장치(GPU)에서 분산시킴으로써 AI 모델을 더 빠르고 효율적으로 학습시킬 수 있도록 합니다.
하지만 기존 TPU와는 달리, 이 새로운 칩은 실리콘과 같은 기존 반도체 소재 대신, 탄소 원자가 육각형 패턴으로 배열된 작은 원통형 구조인 탄소 나노튜브를 사용한 최초의 제품입니다. 이 구조는 전자(전하를 띤 입자)가 최소한의 저항으로 흐를 수 있도록 하여 탄소 나노튜브를 뛰어난 전기 전도체로 만듭니다.
중국 과학자들에 따르면, 그들의 TPU는 295마이크로와트(μW)의 전력만 소모하며(1W는 1,000,000μW), 와트당 1조 번의 연산을 수행할 수 있습니다. 이는 에너지 효율 단위입니다. 따라서 중국의 탄소 기반 TPU는 구글 칩보다 에너지 효율이 거의 1,700배 높습니다.
"ChatGPT부터 Sora까지, 인공지능은 새로운 혁명을 선도하고 있지만, 기존의 실리콘 기반 반도체 기술은 방대한 양의 데이터 처리 요구를 충족하기에는 점점 더 어려워지고 있습니다. 우리는 이 세계적인 과제에 대한 해결책을 찾았습니다."라고 이 논문의 공동 저자이자 베이징대학교 전자공학과 교수인 Zhiyong Zhang은 말했습니다.
새로운 TPU는 3,000개의 탄소 나노튜브 트랜지스터를 포함하고 있으며, 그리드 형태로 배열된 프로세서 네트워크인 시스톨릭 어레이 아키텍처를 사용하여 제작되었습니다. 이를 통해 TPU는 데이터 흐름을 조정하고 각 프로세서가 작업의 작은 부분만 동시에 수행하도록 보장함으로써 여러 계산을 동시에 수행할 수 있습니다.
이러한 병렬 처리를 통해 계산 속도가 훨씬 빨라지는데, 이는 대량의 데이터를 처리하는 AI 모델에 매우 중요합니다. 또한 메모리, 특히 정적 랜덤 액세스 메모리(SRAM)가 데이터를 읽고 쓰는 빈도도 줄여준다고 장 교수는 설명했습니다. 이러한 작업을 최소화함으로써 새로운 TPU는 훨씬 적은 전력을 사용하면서 더 빠르게 계산을 수행할 수 있습니다.
연구진은 앞으로 유사한 탄소 나노튜브 기반 기술이 실리콘 기반 칩보다 에너지 효율이 더 높은 대안을 제공할 수 있을 것이라고 말합니다. TPU를 실리콘 CPU에 통합하는 방법을 모색하는 등 성능 향상과 확장성 향상을 위해 칩을 지속적으로 개선해 나갈 계획이라고 밝혔습니다.
댓글 (0)