인공지능 챗봇은 소문처럼 전력을 많이 소비하는가?

AI 챗봇은 매일 수억 명의 사용자를 확보하며 폭발적인 인기를 누리고 있지만, 이러한 편리함 뒤에는 막대한 전력 소비가 숨어 있어 지속가능성에 대한 우려를 낳고 있습니다.

지난 몇 년 동안 ChatGPT의 인기는 폭발적으로 증가하여 거의 2억 명의 사용자가 매일 10억 건 이상의 요청을 보내고 있습니다. 이러한 응답은 마치 "갑자기 생성되는 것처럼" 처리되는 것처럼 보이지만, 실제로는 백그라운드에서 엄청난 양의 에너지를 소모합니다.

2023년 미국에서는 인공지능(AI) 학습 및 운영에 사용되는 데이터 센터가 전체 전력 소비량의 4.4%를 차지했습니다. 전 세계적으로는 이 수치가 전체 전력 수요의 약 1.5%에 해당했습니다. AI 수요가 지속적으로 증가함에 따라 2030년에는 데이터 센터의 전력 소비량이 두 배로 늘어날 것으로 예상됩니다.

암스테르담 자유대학교에서 신기술 지속가능성을 연구하고 디지털 트렌드의 의도치 않은 결과를 분석하는 플랫폼인 디지코노미스트(Digiconomist)를 설립한 알렉스 드 브리스-가오는 “불과 3년 전만 해도 ChatGPT는 존재하지도 않았습니다.” 라고 말하며 , “그런데 이제 우리는 전 세계 데이터 센터에서 소비되는 전력의 거의 절반을 차지할 가능성이 있는 기술에 대해 이야기하고 있습니다.”라고 덧붙였다 .

대규모 언어 모델(LLM)에 질문을 하는 데는 일반적인 구글 검색보다 약 10배 더 많은 전력이 소모됩니다. (이미지: Qi Yang/Getty Images)

인공지능 챗봇이 왜 그렇게 에너지를 많이 소모할까요? 그 이유는 바로 엄청난 규모 때문입니다. 미시간 대학교 컴퓨터 과학 교수인 모샤라프 초우더리에 따르면, 특히 전력 소모가 많은 단계는 학습 과정과 추론 과정 두 가지입니다.

"하지만 문제는 오늘날의 모델들이 너무 커서 단일 GPU에서 실행할 수 없을 뿐더러, 단일 서버에 담는 것은 더욱 불가능하다는 점입니다."라고 모샤라프 초우더리 교수는 라이브 사이언스와의 인터뷰에서 설명했다.

규모를 설명하기 위해, 2023년 드 브리스-가오의 연구에 따르면 엔비디아 DGX A100 서버는 최대 6.5킬로와트의 전력을 소비할 수 있습니다. LLM 학습에는 일반적으로 평균 8개의 GPU를 탑재한 여러 대의 서버가 몇 주 또는 몇 달 동안 지속적으로 가동되어야 합니다. 총 전력 소비량은 엄청납니다. OpenAI의 GPT-4 학습에만 50기가와트시가 소비되었는데, 이는 샌프란시스코 전체에 3일 동안 전력을 공급할 수 있는 양과 맞먹습니다.

OpenAI의 GPT-4 학습 과정은 샌프란시스코 전체에 3일 동안 전력을 공급하기에 충분했습니다. (이미지: Jaap Arriens/NurPhoto/Rex/Shutterstock)

추론 과정 또한 상당한 에너지를 소모합니다. 이 단계에서 AI 챗봇은 학습된 지식을 활용하여 사용자에게 답변을 제공합니다. 추론은 학습 단계보다 적은 컴퓨팅 자원을 필요로 하지만, 챗봇에 전송되는 요청량이 워낙 많기 때문에 여전히 전력 소모가 매우 큽니다.

OpenAI는 2025년 7월 기준으로 ChatGPT 사용자들이 하루에 25억 건 이상의 요청을 보낼 것으로 추산합니다. 즉각적인 응답을 위해서는 시스템이 동시에 작동하는 수많은 서버를 동원해야 합니다. 이는 ChatGPT만을 포함한 수치이며, 구글 검색 시 기본 선택지가 될 것으로 예상되는 구글의 제미니(Gemini)와 같이 널리 보급되고 있는 다른 플랫폼은 포함하지 않은 것입니다.

"추론 단계에서도 에너지를 절약하기는 사실상 불가능합니다." 라고 초우더리는 지적했다. "더 이상 방대한 데이터 양이 문제가 아닙니다. 모델 자체가 이미 방대하지만, 더 큰 문제는 사용자 수입니다."

초우더리와 드 브리스-가오 같은 연구자들은 이제 에너지 소비량을 보다 정확하게 측정하고 이를 줄이는 해결책을 찾기 위해 노력하고 있습니다. 예를 들어, 초우더리는 오픈 소스 모델의 추론 과정에서 발생하는 에너지 소비량을 추적하는 'ML 에너지 리더보드'라는 순위표를 운영하고 있습니다.

하지만 상업적으로 활용 가능한 AI 플랫폼과 관련된 데이터는 대부분 "비밀"로 남아 있습니다. 구글, 마이크로소프트, 메타와 같은 대기업들은 관련 정보를 기밀로 유지하거나, 환경에 미치는 영향을 정확하게 반영하지 못하는 매우 모호한 통계만 공개합니다. 이 때문에 AI가 실제로 소비하는 전력량이 얼마나 되는지, 향후 수요는 얼마나 될지, 그리고 세계가 그 수요를 충족할 수 있을지 여부를 파악하기가 매우 어렵습니다.

그럼에도 불구하고, 사용자들은 투명성을 요구하는 압력을 행사할 수 있습니다. 이는 개인이 AI를 사용할 때 더욱 책임감 있는 선택을 하도록 도울 뿐만 아니라, 기업의 책임을 묻는 정책을 촉진하는 데에도 기여합니다.

"디지털 애플리케이션의 핵심적인 문제점 중 하나는 환경에 미치는 영향이 항상 숨겨져 있다는 점입니다."라고 연구원 드 브리스-가오는 강조했습니다. "이제 정책 입안자들의 손에 달려 있습니다. 사용자들이 조치를 취할 수 있도록 데이터 투명성을 장려해야 합니다."

응옥 응우옌 (라이브 사이언스)

출처: https://vtcnews.vn/chatbot-ai-co-ngon-dien-nhu-loi-don-ar965919.html