
구글이 한 달에 처리하는 토큰은 2년 만에 9.7조 개에서 3,200조 개 이상으로 늘었고, 미국 빅테크 4사의 2026년 설비투자 계획은 합계 7,000억 달러를 넘어섰다. 그러나 변압기 납기만 2~3년이 걸리는 전력 제약 속에서 투자 회수의 기준은 GPU 대수에서 전력 1MW당 토큰 생산량으로 옮겨가고 있다. 1GW 데이터센터의 비용 구조, 감가상각 논쟁, 토큰 단가 하락 속도, 국내 전력 여건까지 기관 보고서와 실적 발표를 근거로 짚었다.
토큰 수요와 설비투자가 함께 늘어난 2년
AI 서비스의 사용량을 가장 직접적으로 보여주는 숫자는 처리한 토큰의 양이다. 구글은 2024년 5월 월 9.7조 개였던 처리 토큰이 2025년 5월 약 480조 개, 2026년 5월에는 월 3,200조 개 이상으로 늘었다고 밝혔다. 2년 사이 300배가 넘는 증가다. 2026년 7월 실적 발표에서는 모델 API로만 분당 약 220억 개의 토큰을 처리하고 있다고 덧붙였다.
다른 지표도 같은 방향을 가리킨다.
지표 | 수치 | 출처·시점 |
|---|---|---|
구글 월간 처리 토큰 | 9.7조(2024.5) → 약 480조(2025.5) → 3,200조 이상(2026.5) | 구글 I/O 2026 기조연설 |
마이크로소프트 분기 처리 토큰 | 100조 개 이상, 전년 대비 5배 | 마이크로소프트 FY25 3분기 실적 발표(2025.4) |
마이크로소프트 Foundry 연 1조 토큰 이상 고객 수 | 전년 대비 4배 | 마이크로소프트 FY26 4분기 실적 발표(2026.7) |
오픈라우터 주간 토큰 | 0.5조(2025.1) → 126.2조(2026.9) | The Decoder(2026.9) |
챗GPT 주간 사용자 | 9억 명(2026.2) → 12억 명(2026.9) | 오픈AI DevDay 2026 |
기업 생성형 AI 지출 | 17억 달러(2023) → 115억 달러(2024) → 370억 달러(2025) | 멘로벤처스(2025.12) |
국제에너지기구(IEA)는 2026년 4월 보고서 「Key Questions on Energy and AI」에서 주요 모델 공급사들이 지난 1년 동안 활성 사용자는 3배, 매출은 5배 늘었다고 보고했다고 정리했다.
다만 토큰 수를 그대로 수요로 읽는 데에는 주의가 필요하다. 추론형 모델은 답을 내기 전에 내부적으로 긴 사고 과정을 토큰으로 생성하고, 최적화되지 않은 에이전트는 같은 작업에 토큰을 여러 번 소모한다. 독일 IT 전문 매체 The Decoder는 구글과 오픈라우터의 토큰 증가 그래프를 두고 상당 부분이 사용 가치보다 연산 소모량을 반영한다고 지적했다. 토큰 증가율은 매출 증가율보다 높게 나타나는 경향이 있고, 투자 판단에서는 두 숫자를 구분해 볼 필요가 있다.
2026년 설비투자 규모와 구성
토큰 수요 증가는 곧바로 설비투자로 이어졌다. 2026년 2분기 실적 발표 기준으로 미국 주요 클라우드 기업의 2026년 설비투자(CapEx) 계획은 다음과 같다.
기업 | 2026년 설비투자 가이던스 | 비고 |
|---|---|---|
알파벳 | 1,950억~2,050억 달러 | 7월 상향(기존 1,800억~1,900억), 2027년 “상당폭 증가” 예고 |
아마존 | 약 2,200억 달러 | 기존 2,000억 달러에서 상향(메모리 가격 상승 반영) |
마이크로소프트 | 약 1,750억 달러(역년 기준) | 기존 약 1,900억 달러 — 회계 기준 변경에 따른 조정이며 실제 투자 계획은 유지 |
메타 | 1,300억~1,450억 달러 | 금융리스 원금 포함 |
오라클 | 900억~950억 달러(FY2027 총액) | 고객 선급금 차감 시 순액 약 700억 달러 |
가이던스 중간값을 단순 합산하면 알파벳·아마존·마이크로소프트·메타 4사만으로 약 7,300억 달러다. IEA는 하이퍼스케일러와 신흥 GPU 클라우드(네오클라우드)를 합한 2026년 설비투자를 7,150억 달러로 추산하고, 이는 전년 대비 75% 증가한 규모로 2026년 이들 기업의 현금 창출을 거의 전부 흡수할 것이라고 분석했다. AI 기업들이 2025년 한 해 발행한 회사채도 약 2,000억 달러에 이른다. 엔비디아는 2026년 8월 실적 발표에서 상위 5개 고객의 설비투자가 2026년 약 8,000억 달러, 2027년 1조 3,000억 달러에 이를 것이라고 밝혔다. 이 수치는 공급사의 시각이 반영된 추정이다.
투자의 구성도 눈여겨볼 대목이다. 마이크로소프트는 설비투자의 약 3분의 2가 GPU·CPU 같은 내용연수가 짧은 자산이라고 밝혔고, 알파벳의 2분기 설비투자 449억 달러 가운데 약 60%가 서버, 40%가 데이터센터와 네트워크였다. 건물은 수십 년을 쓰지만 서버는 몇 년 안에 교체 대상이 된다. AI 데이터센터 투자의 수익성이 감가상각 가정에 크게 좌우되는 이유가 여기 있다.
수요가 공급을 앞선다는 신호는 실적 발표 곳곳에서 반복됐다. 순다르 피차이 알파벳 CEO는 “여전히 공급 제약 상태”라고 했고, 앤디 재시 아마존 CEO는 “2026년에도, 2027년에도 모든 수요를 충족할 만큼의 용량을 갖추지 못할 것”이라고 말했다. 마이크로소프트는 “수요가 가용 공급을 계속 초과하고 있다”고 밝혔다. 오라클의 잔여 이행 의무(RPO)는 2026년 8월 말 기준 6,640억 달러로 1년 사이 2,090억 달러 늘었다.
1GW 데이터센터의 비용 구조
AI 데이터센터 투자는 이제 전력 용량 단위로 이야기된다. 1GW급 시설을 짓는 데 드는 비용에 대해서는 여러 추정이 나와 있다.
추정 주체 | 1GW당 투자비 | 내용 |
|---|---|---|
엔비디아(젠슨 황, 2025.8 실적 발표) | 500억~600억 달러 | 이 가운데 엔비디아 몫 약 350억 달러 |
번스타인(블랙웰 세대) | 약 350억 달러 | GPU가 설비투자의 약 39% |
번스타인(베라 루빈 세대, 2026.6) | 약 470억 달러 | 랙 3,557개 × 910만 달러 ≈ 320억 달러 + 물리 인프라 약 150억 달러 |
IEA(2026.4) | kW당 4만~5만 달러(= 1GW당 400억~500억 달러) | IT 장비 포함, kW당 원전의 5~10배 |
엔비디아는 2026년 8월 실적 발표에서 1GW당 자사 매출이 호퍼 세대 약 180억 달러, 그레이스 블랙웰 약 250억 달러, 베라 루빈 약 400억 달러로 세대마다 늘어난다고 설명했다. 장비 세대가 바뀔수록 같은 1GW 안에 들어가는 반도체 비중이 커진다.
번스타인의 베라 루빈 모델은 연간 비용의 구성을 보여준다. 1GW 기준 연간 감가상각비는 6년 내용연수를 가정할 때 약 79억 달러, 연간 전력비는 kWh당 0.15달러를 가정할 때 약 13억 달러다. 감가상각비가 전기요금의 약 6배에 이른다. 반도체 분석기관 세미애널리시스(SemiAnalysis)도 코로케이션 임대료와 전기요금이 총소유비용(TCO)에서 차지하는 비중이 통상 20% 미만이라고 분석했다.
이 구조에서 두 가지 함의가 나온다. 첫째, 미국 같은 시장에서 전력은 요금보다 확보 자체가 제약이다. 전기요금이 TCO의 일부에 그쳐도, 전력을 끌어오지 못하면 설비 전체가 놀게 된다. 둘째, 투자 수익은 같은 장비로 얼마나 많은 토큰을 얼마나 오래 만들어내느냐에 따라 갈린다. 감가상각비는 장비를 쓰든 쓰지 않든 발생하기 때문이다.
투자 회수 조건에 대한 외부 분석
설비투자가 늘어날수록 회수 가능성에 대한 분석도 쌓이고 있다. 대표적인 계산은 다음과 같다.
분석 | 핵심 계산 | 시점 |
|---|---|---|
세쿼이아캐피털 「AI’s $600B Question」(데이비드 칸) | 엔비디아 데이터센터 매출 × 2(데이터센터 총비용) × 2(최종 사업자 매출총이익률 50%) → 연 6,000억 달러의 AI 매출 필요 | 2024.6 |
베인앤드컴퍼니 「Technology Report 2025」 | 2030년까지 연 2조 달러의 신규 매출 필요, 전 세계 추가 AI 연산 수요 200GW, AI 절감 효과를 감안해도 8,000억 달러 부족 | 2025.9 |
맥킨지 「The cost of compute: a $7 trillion race」 | 2030년까지 데이터센터 설비투자 6조 7,000억 달러, 이 중 AI 5조 2,000억 달러, AI 데이터센터 수요 약 156GW | 2025.4 |
JP모건 | 2030년까지의 투자에 연 10% 수익을 내려면 연 6,500억 달러의 매출이 영구적으로 필요 — 전 세계 GDP의 약 0.58% | 2025.11 |
세쿼이아의 계산은 단순하지만 구조를 잘 보여준다. 엔비디아가 GPU를 1달러어치 팔면 데이터센터 사업자는 건물·전력·네트워크를 포함해 약 2달러를 쓰고, 그 위에서 서비스를 파는 기업이 50% 이익률을 내려면 최종 매출은 4달러가 돼야 한다. 2023년 9월 1,250억 달러였던 ‘매출 공백’은 2024년 6월 기준 5,000억 달러로 커졌다고 이 글은 분석했다.
베인은 연산 수요가 무어의 법칙보다 2배 이상 빠르게 늘고 있다며, 2030년 연 2조 달러 매출을 뒷받침하려면 약 5,000억 달러의 연간 설비투자가 필요하다고 봤다. JP모건은 연 6,500억 달러를 아이폰 사용자 1인당 월 약 35달러, 넷플릭스 가입자 1인당 월 약 180달러에 해당하는 금액으로 환산하며 통신·광섬유 시대의 과잉투자 가능성을 경고했다.
AI 기업 개별 수치도 이 논의와 맞물린다. 로이터 보도(2026.2)에 따르면 오픈AI는 2030년까지 약 6,000억 달러를 연산에 지출할 계획이며, 2025년 매출은 130억 달러였다. 같은 보도에서 2025년 추론 비용이 4배로 늘면서 조정 매출총이익률이 40%에서 33%로 낮아졌다고 전했다. 토큰 수요가 늘어도 토큰 원가가 함께 늘면 이익률이 개선되지 않는다는 사례다.
기업 현장의 성과에 대해서는 MIT NANDA 연구진의 「The GenAI Divide」(2025) 보고서가 자주 인용된다. 300건의 도입 사례와 150건의 인터뷰를 바탕으로 조직의 95%가 측정 가능한 손익 효과를 얻지 못했다고 보고했다. 다만 표본이 작고 방법론에 대한 비판이 있어 “AI 프로젝트의 95%가 실패한다”는 식으로 일반화하기는 어렵다.
감가상각 내용연수 논쟁
AI 데이터센터의 회계상 수익성은 GPU 서버를 몇 년에 걸쳐 비용으로 나누느냐에 따라 크게 달라진다. 최근 몇 년간 주요 기업의 내용연수 정책은 엇갈렸다.
기업 | 변경 내용 | 영향 |
|---|---|---|
아마존 | 2024년 1월 서버 내용연수 5년 → 6년 연장 후, 2025년 1월 일부 서버·네트워크 장비를 6년 → 5년으로 다시 단축 | AI·머신러닝 기술 발전 속도를 이유로 들었으며, 2025년 영업이익 약 7억 달러 감소 요인 |
메타 | 2025년 1월부터 서버·네트워크 자산 대부분을 5.5년으로 연장 | 2025년 감가상각비 약 29억 달러 감소 |
마이크로소프트 | FY2027부터 데이터센터·사무용 건물 내용연수 15년 → 25년 | 리스 회계 분류 변경으로 2026년 설비투자 가이던스 수치가 하향 조정됨 |
영화 「빅쇼트」로 알려진 투자자 마이클 버리는 2025년 11월 하이퍼스케일러들이 내용연수를 늘려 2026~2028년 감가상각비를 약 1,760억 달러 과소 계상하고 있다고 주장했다. 보도에 따르면 그는 2028년까지 오라클의 이익이 약 27%, 메타의 이익이 약 21% 과대 계상될 것으로 추산했다. 엔비디아는 내부 메모를 통해 GPU의 실제 사용 기간이 4~6년이라고 반박했다.
세쿼이아의 칸은 2024년 글에서 신형 칩이 구형 칩의 가치를 빠르게 떨어뜨린다고 봤다. 성능은 2.5배인데 가격은 25%만 비싼 신형이 나오면 구형 장비의 임대 단가가 내려간다는 논리다. 실제로 H100의 시간당 임대료는 2023년 약 8달러에서 2025년 약 2달러 수준까지 내려갔다.
그러나 2026년 들어 흐름이 바뀌었다. 세미애널리시스에 따르면 H100의 1년 계약 임대료는 2025년 10월 시간당 1.70달러에서 2026년 3월 2.35달러로 약 40% 올랐고, 온디맨드 임대 용량은 모든 GPU 종류에서 매진됐다. 2026년 9월에는 한 시장 지수 기준 H100 시간당 임대료가 한 달 새 2.69달러에서 3.28달러로 21.9% 뛰었다는 보도도 나왔다. 구형 GPU 가치가 단기적으로는 오히려 오른 셈이다. 내용연수를 둘러싼 논쟁의 결론은 공급 부족이 언제 풀리느냐에 달려 있다.
전력이 투자 속도를 정하는 구조
IEA의 2026년 보고서에 따르면 전 세계 데이터센터 전력 소비는 2025년 약 485TWh로 전년 대비 17% 늘었고, 이 가운데 AI 중심 데이터센터의 소비는 50% 증가했다. 2030년에는 약 950TWh로 전 세계 전력 수요의 약 3%에 이를 전망이다. 미국 로렌스버클리국립연구소(LBNL)는 미국 데이터센터가 2023년 약 176TWh(미국 전력의 약 4.4%)를 썼고 2028년에는 325~580TWh(6.7~12%)로 늘 것으로 추정했다.
병목은 공급 속도에 있다. IEA는 변압기 납기가 2~3년, 가스터빈 납기가 약 5년에 이른다고 지적했다. 2025년 가스터빈 주문은 70% 급증했고, 2025년 2분기에만 미국에서 약 980억 달러 규모의 데이터센터 프로젝트 20건이 지역 반대 등으로 중단되거나 지연됐다. LBNL의 2026년 집계에 따르면 2025년 말 미국 전력망 접속 대기열에 올라 있는 발전·저장 설비는 약 2,061GW에 이른다.
사티아 나델라 마이크로소프트 CEO는 2025년 11월 한 팟캐스트에서 “지금 가장 큰 문제는 연산 과잉이 아니라 전력”이라며 “전원을 연결하지 못해 재고로 쌓여 있는 칩이 생길 수 있다”고 말했다. 칩을 사는 것보다 칩을 꽂을 건물과 전력을 확보하는 데 더 오래 걸린다는 뜻이다. 마이크로소프트는 2026년 7월 실적 발표에서 한 분기에 데이터센터 31곳을 새로 열었고, GPU가 입고된 뒤 가동되기까지의 시간을 약 50% 줄였다고 밝혔다.
시설 효율도 정체돼 있다. 업타임연구소(Uptime Institute)의 2025년 조사에서 전 세계 데이터센터의 가중평균 전력사용효율(PUE)은 1.54로 6년째 제자리였다. 냉각과 배전 효율 개선만으로는 전력 제약을 풀기 어렵다는 의미다.
전력 공급이 묶이면 투자 판단의 질문이 바뀐다. 확보한 전력 용량은 고정된 상수가 되고, 그 안에서 얼마나 많은 가치를 만들어내느냐가 변수가 된다. 젠슨 황 엔비디아 CEO는 2025년 8월 실적 발표에서 “모든 데이터센터는 정의상 전력에 묶여 있다”며 “전력이 제한된 세계에서는 와트당 성능이 곧 매출로 이어진다”고 말했다. 나델라 CEO는 2026년 1월 실적 발표에서 ‘달러당·와트당 토큰(tokens per watt per dollar)’을 새로운 핵심 인프라 최적화 지표로 제시했다.
전력 1MW당 토큰 생산량으로 본 수익 모델
전력이 제약일 때 데이터센터의 매출 잠재력은 다음 식으로 정리할 수 있다.
MW당 연간 매출 = (MW당 초당 토큰 처리량) × (연간 초 31,536,000) × 가동률 × (토큰 단가)
MW당 연간 비용 = (MW당 설비투자 ÷ 내용연수) + (MW당 전력비) + 운영비·자본비용첫 번째 항인 MW당 처리량은 장비 세대에 따라 크게 다르다. 세미애널리시스의 공개 추론 벤치마크 InferenceMAX(2025.10)는 시설 전체 전력 1MW를 기준으로 초당 토큰 처리량을 비교했다.
비교 | MW당 초당 토큰 | 조건 |
|---|---|---|
B200 vs H100 | 약 280만 vs 약 90만 (약 3배) | gpt-oss 120B, 사용자당 초당 90토큰 |
MI355X vs MI300X | 약 255만 vs 약 75만 (약 3배) | 같은 조건 |
GB200 NVL72 vs H200 | 약 8배 | DeepSeek-R1, 사용자당 초당 30토큰 |
엔비디아는 2026년 4월 블로그에서 DeepSeek-R1 기준 100만 토큰당 비용이 HGX H200에서 4.20달러, GB300 NVL72에서 0.12달러라고 제시했다. 같은 비교에서 GPU 시간당 비용은 1.41달러에서 2.65달러로 약 1.9배 비싸졌다. 장비 단가가 오르더라도 MW당 토큰 처리량이 더 크게 오르면 토큰 원가는 내려간다. 다만 이 수치는 특정 모델과 응답 속도 조건에서 측정한 공급사 자료이며, 범용 배수로 읽어서는 안 된다. 컴퓨팅 연구자 글렌 록우드는 2025년 GTC에서 제시된 25~40배 수치가 특정 조건에 맞춘 지표라고 비판하기도 했다.
예시 계산 — B200급 1MW의 손익분기 토큰 단가
공개 자료의 수치를 결합해 손익분기점(BEP)을 가늠해 보면 다음과 같다. 이 계산은 구조를 이해하기 위한 예시이며, 실제 사업성 판단에는 해당 시설에서 다시 잰 값이 필요하다.
[처리량] B200, gpt-oss 120B, 사용자당 초당 90토큰 조건: MW당 초당 약 280만 토큰 (InferenceMAX)
가동률 100% 기준 연간 = 2,800,000 × 31,536,000 ≈ 88.3조 토큰
[비용] 1GW당 약 350억 달러(번스타인, 블랙웰 세대) → MW당 3,500만 달러
6년 정액 감가상각 → MW당 연 약 580만 달러
전력비 kWh당 0.15달러 가정 → MW당 연 약 130만 달러 (8,760MWh × 0.15달러)
합계 MW당 연 약 710만 달러 (인건비·이자·이윤 제외)
[손익분기 단가 = 연간 비용 ÷ 연간 처리 토큰]
가동률 30% → 약 26.5조 토큰 → 100만 토큰당 약 0.27달러
가동률 50% → 약 44.2조 토큰 → 100만 토큰당 약 0.16달러
가동률 70% → 약 61.8조 토큰 → 100만 토큰당 약 0.11달러이 예시에서 몇 가지가 드러난다. 가동률이 30%에서 70%로 오르면 손익분기 단가는 절반 이하로 내려간다. 비용의 80% 이상이 감가상각이라 장비가 노는 시간은 그대로 원가가 된다. 그리고 전기요금이 두 배가 되더라도 손익분기 단가는 약 18% 오르는 데 그친다(710만 → 840만 달러). 전력비보다 가동률과 처리량이 단가를 더 크게 움직인다는 계산이다.
다만 두 자료의 MW 정의(시설 전체 전력 기준과 IT 전력 기준)가 완전히 같지 않고, 처리량은 모델 크기·입출력 길이·응답 속도 목표에 따라 몇 배씩 달라진다. 이 범위 안에서만 의미가 있는 예시다.
토큰 단가 하락과 수요 증가의 관계
수익 모델의 마지막 항인 토큰 단가는 빠르게 내려가고 있다.
분석 | 하락 속도 | 기준 |
|---|---|---|
스탠퍼드 AI Index 2025 | 100만 토큰당 20달러(2022.11) → 0.07달러(2024.10), 280배 이상 | GPT-3.5 수준 성능(MMLU 64.8%) |
앤드리슨호로위츠(a16z) 「LLMflation」 | 같은 성능 기준 연 약 10배 | MMLU 42점 기준 2021년 60달러 → 0.06달러, 3년간 1,000배 |
에포크AI(Epoch AI) | 연 9~900배, 중앙값 약 50배 | 고정된 벤치마크 점수 도달 비용 |
에포크AI는 가장 가파른 하락이 최근에 집중돼 있어 이 속도가 이어질지는 불확실하다고 단서를 달았다. 구글은 2025년 8월 논문에서 제미나이 앱의 텍스트 프롬프트 1건당 에너지가 중앙값 0.24Wh이며, 12개월 사이 33배 줄었다고 공개했다.
단가 하락은 사업자에게 양면적이다. 같은 성능의 토큰 가격이 매년 10배씩 떨어진다면, 같은 설비로 같은 매출을 유지하려면 MW당 처리량도 그만큼 늘어야 한다. 반대로 단가 하락은 새로운 수요를 연다. 나델라 CEO는 2025년 1월 딥시크 충격 직후 “제번스의 역설이 다시 나타났다”며 AI가 효율적이고 저렴해질수록 사용량이 급증할 것이라고 말했다. IEA도 AI 작업당 에너지가 매년 최소 한 자릿수 배율로 줄고 있지만, 추론형·에이전트형·영상 작업은 질의당 수백~수천 배의 에너지를 쓰기 때문에 효율 개선에도 AI 전체 전력 소비는 늘어날 것이라고 전망했다.
투자 관점에서 정리하면, 토큰 단가 하락 속도보다 MW당 처리량 개선 속도와 수요 증가 속도의 합이 빠를 때 데이터센터 매출이 늘어난다. 장비 세대교체로 얻는 처리량 개선은 다른 사업자도 똑같이 누린다. 그래서 같은 장비에서 운영 효율로 얻는 차이가 경쟁력이 된다.
추론 효율 개선이 투자 수익에 주는 영향
같은 하드웨어에서 소프트웨어와 운영 방식만으로 처리량을 끌어올린 사례는 많다.
기법·사례 | 보고된 효과 | 출처 |
|---|---|---|
vLLM(PagedAttention) | 같은 지연 조건에서 기존 구현 대비 처리량 2~4배 | Kwon 외, SOSP 2023 |
DistServe(프롬프트 처리·답 생성 분리) | 지연 목표 내 처리 요청 7.4배 | Zhong 외, OSDI 2024 |
엔비디아 Dynamo | DeepSeek-R1, 대규모 GB200 NVL72에서 GPU당 생성 토큰 30배 이상(공급사 발표) | 엔비디아(2025.3) |
알리바바 Aegaeon(토큰 단위 GPU 풀링) | 여러 모델 서빙에 필요한 GPU 1,192장 → 213장(82% 감소) | 알리바바·베이징대, SOSP 2025 |
마이크로소프트 | 인프라 개선으로 오픈AI 추론 처리량 50% 향상 | FY26 2분기 실적 발표(2026.1) |
알리바바 사례는 투자 관점에서 특히 시사적이다. 풀링을 적용하기 전에는 GPU의 17.7%가 전체 요청의 1.35%만 처리하고 있었다. 수요가 적은 모델에 GPU를 고정 배정한 결과다. 학계와 산업계의 추론 클러스터 연구에서도 실제 활용률은 대략 20~50% 범위로 보고된다. 이 범위는 연구마다 측정 방식이 달라 참고 수준으로만 볼 수 있다.
앞의 예시 계산에 대입하면 효과의 크기를 가늠할 수 있다. 같은 1MW에서 가동률을 30%에서 45%로 올리면 연간 처리 토큰은 1.5배가 되고, 토큰당 설비 원가는 3분의 2로 줄어든다. 새 장비를 들이지 않고도 기존 설비투자의 회수 기간이 짧아진다. 젠슨 황 CEO는 500억 달러 규모 1GW 시설의 효율을 수십 퍼센트 개선하면 100억~200억 달러 상당의 효과가 생긴다고 설명했다.
2편에서 다룬 전력 제어도 같은 식에 들어간다. 답 생성 구간에서 GPU 클럭을 고정하면 처리량 손실 1% 미만으로 에너지를 최대 32%까지 줄일 수 있다는 연구 결과가 있다. 전력 상한이 계약 용량으로 묶인 시설이라면, 아낀 전력만큼 같은 건물에 더 많은 장비를 운용할 여지가 생긴다. 다만 앞서 본 것처럼 감가상각이 전력비의 몇 배에 이르는 구조에서는, 전기요금 절감보다 활용률과 처리량 개선의 효과가 더 크다. 우선순위도 이 순서를 따르는 편이 합리적이다.
호크아이(HawkEye)가 다루는 영역도 여기에 있다. 추론 엔진이 세는 토큰 수와 GPU가 보고하는 전력을 같은 시간 기준으로 묶어 토큰당 에너지와 토큰당 비용을 측정하고, 유휴 GPU와 가동률이 낮은 배정을 찾아 권고한다. 전력 설정 변경은 운영자 승인을 거쳐 적용하고, 적용 전후를 같은 길이의 구간으로 비교해 결과를 기록한다. 처리량과 가동률이 투자 회수의 핵심 변수라면, 그 변수를 토큰 단위로 재는 일이 출발점이 된다.
국내 AI 데이터센터 투자 환경
국내에서도 AI 데이터센터 투자가 본격화됐다. 엔비디아는 2025년 10월 경주 APEC을 계기로 한국 정부와 기업에 26만 장 이상의 GPU를 공급한다고 발표했다. 정부(과학기술정보통신부) 최대 5만 장, 삼성·SK·현대차 각 5만 장 이상, 네이버클라우드 6만 장 이상이다.
항목 | 내용 | 출처 |
|---|---|---|
엔비디아 GPU 공급 | 26만 장 이상(정부 최대 5만 장 포함) | 엔비디아 뉴스룸(2025.10) |
국민성장펀드 | 150조 원(첨단전략산업기금 75조 원 + 민간·국민 75조 원), 5년간 AI·반도체 등 10대 첨단전략산업 | 정책브리핑(2025.9) |
국가AI컴퓨팅센터 | 전남 해남, 삼성SDS 컨소시엄 우선협상대상자, 총사업비 약 2.9조 원, 1단계 GPU 1.5만 장 이상 | 언론 보도(2026.4) |
SK텔레콤·AWS 울산 AI 데이터센터 | 1단계 40MW(2027년 말) → 100MW(2029년), 총 약 7조 원 | SK텔레콤 뉴스룸(2025.8) |
AI 데이터센터 특별법 | 2026년 5월 국회 통과, 2027년 3월 10일 시행 예정(인허가·전력 특례) | 언론 보도(2026.5~6) |
국내의 제약도 전력이다. 분산에너지 활성화 특별법에 따른 전력계통영향평가 1차 기술검토 신청(2024년 8월~2026년 3월) 736건 가운데 522건(71%)이 수도권에 몰렸고, 보도에 따르면 수도권 신청의 절반 이상이 공급 불가 판정을 받았다. 연산 수요가 큰 기업과 인재는 수도권에 있지만 전력 여유는 지방에 있다. 해남·울산처럼 비수도권 대형 프로젝트가 늘어나는 배경이다.
전기요금 구조도 투자 계산에 영향을 준다. 한국전력 통계 기준 2024년 산업용 평균 판매단가는 kWh당 168.17원이었고, 2024년 10월 인상 후 대용량 사업자에 적용되는 산업용(을) 평균 단가는 182.7원으로 보도됐다. 1MW를 1년 내내 쓰면 8,760MWh이므로 182.7원 기준 연간 전기요금은 약 16억 원이다. 2026년 4월 시행된 산업용(을) 계시별 요금 개편은 낮 시간대 단가를 kWh당 16.9원 내리고 밤 시간대를 5.1원 올렸지만, 정부 설명 자료에 따르면 24시간 균등 부하의 절감 효과는 kWh당 약 1.0원에 그친다. 1MW 기준 연 약 880만 원이다. 24시간 가동되는 AI 데이터센터는 시간대 요금 개편의 혜택이 크지 않고, 앞의 예시 계산처럼 가동률과 처리량이 원가를 더 크게 좌우한다.
투자 판단에 쓰는 토큰 단위 지표
지금까지의 논의를 투자 판단 지표로 정리하면 다음과 같다. 1·2편에서 다룬 운영 지표가 위로 쌓여 투자 지표가 된다.
지표 | 산식 | 무엇을 알려주나 |
|---|---|---|
MW당 초당 토큰 처리량 | 처리 토큰 수 ÷ 시간 ÷ 시설 전력(MW) | 확보한 전력으로 만들 수 있는 생산량 |
가동률(utilization) | 실제 처리 토큰 ÷ 최대 처리 가능 토큰 | 설비투자가 실제로 일하는 비율 |
토큰당 설비 원가 | 연간 감가상각비 ÷ 연간 처리 토큰 | 내용연수 가정과 가동률의 결합 효과 |
토큰당 전력 원가 | 토큰당 에너지 × 전력사용효율(PUE) × 전기 단가 | 전력 단가·시간대·시설 효율의 영향 |
손익분기 토큰 단가 | 연간 총비용 ÷ 연간 처리 토큰 | 시장 가격과 비교해 사업성을 가늠하는 기준 |
전력 확보 소요 기간(time-to-power) | 부지 확보부터 전력 인입·가동까지의 기간 | 투자 회수가 시작되는 시점 |
이 지표들은 대부분 기존 시스템에 이미 있는 신호로 계산할 수 있다. 추론 엔진은 토큰을 세고, GPU는 전력을 보고하며, 회계는 감가상각비를 안다. 세 신호가 서로 다른 시스템에 흩어져 있어 하나의 숫자로 묶이지 않는 경우가 많을 뿐이다.
정직한 한계
엔비디아의 세대 간 배수(10배·35배·40배 등)는 특정 모델·정밀도·응답 속도 조건에서 측정한 공급사 수치다. 실제 워크로드에서의 개선 폭은 이보다 작을 수 있다.
토큰 처리량 통계에는 추론형 모델의 내부 사고 토큰과 비효율적 에이전트 호출이 포함돼 있다. 토큰 증가율을 매출이나 효용의 증가율로 읽어서는 안 된다.
예시 계산은 서로 다른 기관의 추정치를 결합한 것이다. MW 정의, 내용연수, 전기 단가, 처리량 조건이 바뀌면 손익분기 단가는 몇 배씩 달라진다. 구조를 이해하는 용도로만 쓰고, 실제 판단은 해당 시설에서 다시 잰 값으로 해야 한다.
설비투자 가이던스와 GPU 임대료는 분기마다 바뀐다. 이 글의 수치는 2026년 9월 말까지 공개된 자료 기준이다.
국내 국가AI컴퓨팅센터·울산 데이터센터·전력계통영향평가 수치 일부는 언론 보도에 기반하며, 사업 진행에 따라 달라질 수 있다.
특집 ‘AI Token Economics’는 이번 편으로 마무리된다. 1편은 토큰 한 개의 원가를 구성요소로 나눴고, 2편은 같은 GPU에서 소프트웨어와 전력 제어로 단가를 낮추는 방법을 다뤘다. 3편은 그 단가가 전력 제약 속에서 데이터센터 투자의 회수 조건으로 이어지는 구조를 살폈다. 세 편에 걸친 결론은 같은 방향을 가리킨다. 확보한 전력과 이미 산 장비로 토큰을 얼마나 만들어내는지 재는 것이 투자 판단의 출발점이다.
참고자료
구글, Sundar Pichai I/O 2026 기조연설(2026-05-19) · blog.google/innovation-and-ai/sundar-pichai-io-2026/
알파벳 2026년 2분기 실적 발표(2026-07-22)
마이크로소프트 FY25 3분기(2025-04-30)·FY26 2분기(2026-01-28)·FY26 4분기(2026-07-29) 실적 발표
아마존 2026년 2분기 실적 발표(2026-07-30), 아마존 2024 회계연도 10-K(서버 내용연수 변경)
메타 2026년 2분기 실적 발표(2026-07-29), 메타 2025년 분기보고서(내용연수 변경)
오라클 FY2027 1분기 실적(SEC 8-K, 2026-09-10)
엔비디아 FY2026 2분기 실적 발표 녹취록(2025-08-27), FY2027 2분기 실적 발표(2026-08-26)
엔비디아, 「Rethinking AI TCO」 블로그(2026-04-15) · blogs.nvidia.com/blog/lowest-token-cost-ai-factories/
엔비디아, OpenAI·한국 AI 인프라 관련 뉴스룸 발표(2025-09-22, 2025-10-30)
IEA, Energy and AI(2025-04) / Key Questions on Energy and AI(2026-04)
미국 로렌스버클리국립연구소(LBNL), 2024 United States Data Center Energy Usage Report(2024-12) / Queued Up 2026 Edition
업타임연구소, Global Data Center Survey 2025
Sequoia Capital, David Cahn, 「AI’s $600B Question」(2024-06)
Bain & Company, Technology Report 2025(2025-09-23)
McKinsey & Company, 「The cost of compute: a $7 trillion race to scale data centers」(2025-04-28)
J.P. Morgan 보고서 보도(Yahoo Finance, 2025-11-12)
MIT NANDA, 「The GenAI Divide: State of AI in Business 2025」
Reuters, 오픈AI 연산 지출 계획 보도(2026-02-20)
번스타인, 1GW 데이터센터 비용 분석 보도(Investing.com, 2026-06)
SemiAnalysis, 「InferenceMAX: Open Source Inference Benchmarking」(2025-10-09) / 「The Great GPU Shortage」(2026-04-02)
Glenn Lockwood, 「GTC 2025 Recap」(2025-03)
Stanford HAI, AI Index Report 2025
a16z, Guido Appenzeller, 「LLMflation」(2024-11-12)
Epoch AI, 「LLM inference prices have fallen rapidly but unequally across tasks」(2025-03-12)
Google, 「Measuring the environmental impact of delivering AI at Google Scale」 · arXiv:2508.15734
Kwon et al., 「Efficient Memory Management for Large Language Model Serving with PagedAttention」(SOSP 2023) · arXiv:2309.06180
Zhong et al., 「DistServe」(OSDI 2024) · arXiv:2401.09670
Alibaba Cloud·Peking University, 「Aegaeon」(SOSP 2025)
The Decoder, 구글·오픈라우터 토큰 통계 분석 기사(2025-10, 2026-09)
Menlo Ventures, 「2025: The State of Generative AI in the Enterprise」(2025-12)
정책브리핑, 국민성장펀드 150조 원 조성(2025-09-12) / 산업용(을) 계시별 요금 개편(2026-03-13)
한국에너지공단 EG-TIPS, 용도별 전력 판매단가(한국전력통계 2024)
SK텔레콤 뉴스룸, 울산 AI 데이터센터 착공(2025-08-29)
머니투데이, 전력계통영향평가 신청 현황 보도(2026-05-20)
서울경제, H100 임대료 상승 보도(2026-09-22)


