AI 데이터센터: 지금 어디까지 왔나

AI 데이터센터는 여기서 지표 4개와 마일스톤 7건을 담고 있습니다. 트래커에서 가장 젊은 분야이자 숫자가 가장 빠르게 움직이는 분야입니다.

전력이 대표 지표인 이유는, 이제 프론티어 훈련의 제약이 칩이 아니라 전력이기 때문입니다. 멤피스의 xAI Colossus와 오하이오의 메타 Prometheus가 각각 약 1,000 MW, 마이크로소프트 Fairwater와 OpenAI 사이트가 약 900 MW, 구글 TPU 캠퍼스가 약 800 MW, 오라클 Stargate 애빌린 1단계가 약 700 MW입니다. 2023년 프론티어 클러스터 기준선은 150 MW였습니다. 2년 만에 약 7배이며, 발표된 향후 캠퍼스는 10 GW를 향합니다.

GPU 수는 더 거칠지만 더 생생한 척도입니다. Colossus가 약 20만 개, 마이크로소프트의 OpenAI 훈련 사이트가 약 15만 개, Stargate 애빌린이 약 13만 개, 메타의 최대 Llama 클러스터가 약 10만 개를 엮고 있습니다. 2023년 프론티어 기준선은 2만 5천 개였습니다. H100과 GB200처럼 세대가 섞여 집계되므로, 트래커는 이 숫자를 단독이 아니라 전력과 함께 읽습니다.

설비투자는 베팅의 규모를 보여줍니다. 아마존이 연 약 $100B, 마이크로소프트 $80B, 구글 $75B, 메타 $65B를 가이던스로 제시해 합계 $300B을 넘습니다. 기업사에서 가장 빠른 설비투자 증가입니다. 4대 하이퍼스케일러 합산 설비투자는 이미 2024년 12월에 연 $200B을 넘었습니다.

분야가 젊어 마일스톤 기록은 짧습니다. xAI가 2024년 9월 첫 6자리 GPU 클러스터를 가동했습니다. H100 약 10만 개, 약 150 MW를 몇 달 만에 지었습니다. Stargate 프로젝트는 2025년 1월 발표됐습니다. $500B, 약 10 GW 규모이며 첫 멀티기가와트 캠퍼스가 텍사스 애빌린에 올라가고 있습니다. 지금까지 약정된 최대 규모의 컴퓨트 건설입니다. 이후 Colossus는 GB200 랙이 들어오면서 GPU 20만 개와 기가와트급 전력으로 확장해, 단일 사이트로는 처음 AI 컴퓨트 1 GW에 근접했습니다.

구조적으로 가장 흥미로운 결과는 2025년 10월 가동된 AWS의 Project Rainier입니다. 아마존 자체 Trainium2 칩 약 50만 개를 여러 미국 데이터센터에 걸쳐 묶은, 세계 최대급 AI 클러스터이자 엔비디아 GPU가 아닌 자체 실리콘으로 지어진 최대 규모입니다. Anthropic이 이 위에서 Claude를 훈련·서비스하며 이전 훈련 컴퓨트의 5배 이상을 쓰고, 100만 개 이상 Trainium2를 향해 확장 중입니다. 프론티어 규모 컴퓨트가 하이퍼스케일러 자체 가속기에서 돌아갈 수 있다는 증명이며, 단일 벤더 의존에 대한 의미 있는 견제입니다.

두 가지가 앞에 남아 있습니다. 단일 100만 GPU 클러스터와 멀티기가와트 캠퍼스 경쟁은 건설 중이지 가동 중이 아닙니다. 그리고 잠긴 마일스톤인 단일 캠퍼스 10 GW급은 2029년경이 목표입니다. 데이터센터·AI 인프라 효율 연구는 연 약 2,227편으로 지출 규모에 비하면 적은데, 이 자체가 짚어둘 만합니다. 연구되는 속도보다 훨씬 빠르게 지어지고 있는 분야입니다.