앤디 재시 아마존 CEO "AWS AI 인프라, 2027년까지 완판"

장기 계약 형태의 대규모 AI 연산 용량은 2027년까지 매진되었으나, 일반 개발자용 온디맨드 버퍼는 유지되며 전력과 냉각이 물리적 공급 상한선으로 작용하고 있다.

아마존의 앤디 재시(Andy Jassy) 최고경영자(CEO)가 10월 23일 공개된 벤처캐피털 앤드리슨 호로위츠(a16z)의 팟캐스트 ’The a16z Show’에 출연해 아마존웹서비스(AWS)의 클라우드 및 인공지능(AI) 컴퓨팅 용량 현황을 공개했다. 재시 CEO는 2026년 대규모 공급 물량은 전량 마감되었고 2027년 역시 사실상 매진되었으며, 2028년 사전 예약까지 상당수 들어오고 있다고 밝혔다.

월가 일각에서 제기된 대형 클라우드 기업의 AI 인프라 과잉 투자 우려를 반박하며, 현실에서는 오히려 공급이 폭증하는 수요를 따라가지 못해 고객 요청을 온전히 소화하지 못하는 상황이라고 선을 그었다.

2027년까지 마감된 AWS 대규모 연산 용량

재시 CEO가 밝힌 완판의 핵심은 대형 파운데이션 모델 개발사와 엔터프라이즈가 장기 계약으로 확보하는 대규모 연산 블록이다. 재시 CEO는 인터뷰에서 “온디맨드를 위한 일정량은 늘 비워 두지만, 2026년 용량은 명백히 완판되었고 2027년 역시 대부분 팔려나갔으며 2028년 용량도 이미 상당 부분 예약되었다”고 말했다.

수요를 이끄는 주축은 두 축이다. 프론티어 파운데이션 모델을 학습시키고 고도화하려는 AI 연구소들의 대규모 GPU 클러스터 수요, 그리고 복잡한 작업을 자율적으로 수행하는 AI 에이전트(사용자 대신 여러 단계의 일을 스스로 처리하는 AI)의 배포 확산이다. 특히 모델 학습뿐 아니라 실 서비스 환경에서 완성된 모델로 답을 만들어 내는 일(추론)의 비중이 급격히 커지면서 연산 자원 소모량이 예상을 뛰어넘고 있다.

그 결과 주요 기업들은 2~3년 뒤 필요한 가속기 인프라까지 사전 계약 형태로 묶어두는 선점 경쟁을 벌이고 있다. 클라우드 업계에서는 이미 수천 장 단위의 고성능 가속기 클러스터를 즉시 임대하기 어려운 병목 현상이 일상화되었다.

온디맨드 버퍼와 일반 개발자가 겪을 체감

용량이 마감되었다는 말이 일반 개발자의 일상적인 클라우드 이용이 당장 중단된다는 뜻은 아니다. AWS는 일상적인 웹 애플리케이션 운영, 데이터 분석 워크로드, 그리고 아마존 베드록(Bedrock) API 호출이나 EC2 인스턴스 생성을 위한 온디맨드(On-Demand) 버퍼 용량을 계약 물량과 별도로 배정해 유지하고 있다.

하지만 대규모 약정 물량이 수년 치 선점된 여파는 개발 현장에도 간접적인 파장을 미친다.

최신 가속기 인스턴스 접근 제한: 최신 엔비디아 가속기나 고용량 GPU 인스턴스를 온디맨드나 스팟 형태로 대량 확보하기가 점점 더 어려워지고 있다.
스팟 인스턴스 중단 빈도 증가: 유휴 자원을 저렴하게 활용하던 스팟 인스턴스 풀이 장기 약정 고객에게 우선 할당되면서, 머신러닝 배치 작업 도중 인스턴스가 회수되는 빈도가 잦아질 수 있다.
신규 리전 및 특정 가용 영역 쏠림: 전력과 상면이 확보된 특정 데이터센터 리전으로 워크로드가 몰려, 일부 리전에서 용량 부족(InsufficientInstanceCapacity) 에러가 나타날 가능성이 있다.

소규모 스타트업이나 개별 개발 팀이라도 대규모 모델을 직접 파인튜닝(이미 만들어진 모델을 특정 용도에 맞게 추가로 학습시키는 일)하거나 대량의 추론 클러스터를 자체 프로비저닝해야 한다면, 온디맨드에만 의존하기보다 관리형 API를 활용하거나 다중 리전 분산 배치를 선제적으로 설계해야 한다.

2,200억 달러 쏟아부어도 전력과 냉각이 상한선

아마존은 이번 인프라 확장을 위해 2026년에만 약 2,200억 달러(약 291조 원)에 달하는 천문학적인 설비투자(CapEx)를 집행할 계획이다. 하지만 이 같은 막대한 자본 투입에도 불구하고 데이터센터 증설 속도가 수요를 따라잡지 못하는 이유는 금융이 아닌 물리적 인프라의 한계 때문이다.

가장 큰 병목은 전력망 용량과 냉각 인프라다. 대규모 AI 데이터센터 하나를 가동하려면 중소 도시 전체에 맞먹는 기가와트(GW)급 전력이 필요한데, 전력 회사로부터 송전망 접속 승인을 받고 변전소를 짓는 데만 수년이 걸린다. 여기에 고밀도 칩의 열을 식히기 위한 액체 냉각 설비와 데이터센터 부지 확보 문제도 즉각적인 증설을 가로막고 있다.

하드웨어 공급망 제약도 여전하다. 엔비디아의 차세대 GPU뿐 아니라, AI 가속기 바로 옆에 붙여 데이터를 아주 빠르게 주고받는 메모리(HBM)와 고속 네트워크 스위치 등 핵심 부품의 패키징 공정이 공급의 물리적 천장으로 작용하고 있다. 재시 CEO는 아마존이 자본을 아끼려 해서가 아니라, 지구상의 물리적 공급 능력이 부족해 “테이블 위에 상당한 AI 수요를 남겨두고 돌아서야 하는 상황”이라고 설명했다.

자체 가속기와 1조 달러 런레이트 구상

아마존이 이 같은 공급 병목과 비용 부담을 돌파하기 위해 내세운 카드는 자체 개발 실리콘이다. 재시 CEO는 엔비디아 의존도를 낮추고 추론 단가를 떨어뜨리기 위해 트레이니엄(Trainium)과 그래비톤(Graviton) 칩의 비중을 대폭 늘리고 있다고 강조했다.

AI 도입이 실험 단계를 지나 기업의 핵심 서비스로 자리 잡으려면 쿼리당 추론 비용이 극적으로 낮아져야 한다. 고가의 범용 GPU 대신 특정 연산에 최적화된 맞춤형 칩을 도입해야만 클라우드 제공사와 고객사 모두 마진을 방어하며 서비스를 확장할 수 있다는 계산이다.

재시 CEO는 전 세계 IT 지출 중 클라우드로 전환된 비중이 여전히 10~15% 수준에 불과하며, 생성형 AI가 이 전환 속도를 가속할 것이라고 내다봤다. 이러한 인프라 전환 흐름이 이어지면 향후 AWS가 연환산 매출(run-rate, 최근 한두 달의 매출 속도를 1년 치로 늘려 계산한 값) 1조 달러(약 1,324조 원)를 달성하는 거대 비즈니스로 성장할 수 있다는 장기 구상도 덧붙였다.

앞으로 볼 것

단기적으로는 AWS가 2026년 말부터 공급을 확대할 트레이니엄 2(Trainium2) 기반 인스턴스의 실제 가격 대 성능비와 물량 안정화 여부를 지켜볼 필요가 있다. 장기적으로는 전력망 부족을 해결하기 위해 아마존이 추진 중인 소형 원자로(SMR) 및 원자력 발전소 연계 데이터센터 구축 프로젝트의 실제 인허가 속도가 AWS의 차세대 연산 공급 능력을 좌우할 전망이다.

2026년 10월 26일 환율 기준.