오픈AI, 엔비디아 의존 줄인다… 구글 TPU 직접 구매 추진
오픈AI가 엔비디아에 치우친 AI 가속기 공급망을 다변화하기 위해 구글의 자체 칩인 TPU를 직접 구매하는 방안을 추진하고 있다.
미국 IT 전문 매체 디인포메이션(The Information)은 오픈AI(OpenAI)가 구글(Google)의 맞춤형 AI 가속기 TPU(Tensor Processing Unit)를 직접 구매하기로 계획 중이라고 전했다. 다만 이번 소식은 비공식 취재원을 인용한 보도로 두 회사가 공식 발표한 내용은 아니며, 양사 모두 구체적인 논평 요청에 공식적인 답변을 내놓지 않았다.
오픈AI는 이미 2025년 중반부터 구글 클라우드를 통해 TPU 서버 용량을 대여해 활용해 왔다. 이번에 논의되는 계약은 단순 클라우드 가상 머신 임대를 넘어 구글의 독자 가속기 실리콘을 직접 사들여 자체 데이터센터 인프라에 올리는 형태라는 점에서 무게감이 다르다.
지금 확정된 것과 아직 보도뿐인 것
이번 보도에서 확인된 사실과 남은 불확실성을 가르면 이렇다.
오픈AI와 구글이 AI 인프라 영역에서 상업적 협력을 넓히고 있는 흐름은 사실이다. 오픈AI는 구글 클라우드 플랫폼(GCP)에서 TPU 연산 자원을 빌려 쓰는 한편, 자사 모델을 구글 클라우드 마켓플레이스에 제공하는 방안을 추진해 왔다.
반면 이번 하드웨어 직접 구매 건의 구체적인 조건은 베일에 싸여 있다. 도입하려는 TPU의 하드웨어 세대(TPU v5p나 차세대 트릴리움 등)와 구매 물량, 총 계약 금액, 실제 인도 시점은 공식적으로 밝혀지지 않았다. 또 오픈AI가 들여올 구글 칩을 모델 사전 학습(training)에 집중 배치할지, 아니면 서비스 운영을 위한 대규모 추론(완성된 모델로 답을 만들어 내는 일) 클러스터에 우선 배정할지도 아직 확인되지 않았다.
엔비디아 일변도에서 멀티 벤더 실리콘으로
오픈AI는 세계에서 엔비디아 그래픽 카드를 가장 많이 사들이는 핵심 고객 중 하나다. 그러나 프론티어 모델 개발과 ChatGPT 서비스 운영에 드는 컴퓨팅 비용이 기하급수적으로 늘어나면서 특정 제조사 하나에만 매달리는 구조는 막대한 재정·공급망 리스크가 되었다.
엔비디아의 주력 GPU는 가격이 비싸고 공급 병목이 자주 발생한다. 오픈AI가 브로드컴(Broadcom), TSMC와 손을 잡고 2026년 양산을 목표로 자체 AI 반도체를 설계하고 있는 이유이기도 하다.
자체 칩이 실제 양산되어 데이터센터에 깔리기까지는 수년의 시간과 검증이 필요하다. 구글 TPU는 이미 대규모 모델 학습과 대고객 서비스에서 검증을 마친 성숙한 가속기인 만큼, 오픈AI 입장에서는 자체 실리콘이 자리 잡기 전까지 엔비디아와의 가격 협상력을 높이고 비용을 낮출 수 있는 현실적인 카드가 된다.
오픈AI 내부에서 포착된 하드웨어 신호
오픈AI가 구글 칩을 진지하게 도입하려 한다는 신호는 내부 조직에서도 감지된다.
오픈AI는 최근 구글 TPU 하드웨어에 자사 프론티어 모델을 올리고 연산 효율을 끌어올릴 TPU 컴파일러 엔지니어 채용 공고를 냈다. 엔비디아의 쿠다(CUDA, 엔비디아의 GPU 계산 도구) 생태계에 묶여 있던 모델 코드와 커널을 구글의 텐서 처리 도구인 XLA(Accelerated Linear Algebra) 및 오픈소스 컴파일러에 맞추려는 기술적 포석이다.
인력 구성에서도 연결고리가 뚜렷하다. 오픈AI의 내부 칩 및 하드웨어 개발 조직을 이끄는 리처드 호(Richard Ho)는 과거 구글에서 수년간 TPU 시스템 엔지니어링을 총괄했던 핵심 인물이다. 구글 칩의 내부 아키텍처와 분산 학습 특성을 누구보다 잘 아는 엔지니어가 오픈AI의 하드웨어 전략을 지휘하고 있는 셈이다.
앞으로 볼 것
오픈AI가 구글 칩을 도입한다고 해서 당장 엔비디아와의 파트너십을 정리하는 것은 아니다. 엔비디아 GPU는 여전히 최첨단 모델 연구의 기준점이며, 마이크로소프트 애저(Azure) 기반 대규모 인프라도 그대로 가동된다.
지켜볼 관전 포인트는 두 가지다. 첫째는 오픈AI가 TPU 기반 인프라를 활용해 실제로 GPT 계열 모델의 추론 단가를 얼마나 낮출 수 있는지다. 둘째는 검색과 파운데이션 모델 시장에서 치열하게 맞붙고 있는 두 빅테크가 하드웨어와 클라우드 공급망에서는 어디까지 손을 잡을지다.
출처
- OpenAI Plans to Buy Google AI Chips (The Information)
- OpenAI diversifying away from Nvidia with Google TPU and in-house chips (Reuters)
- OpenAI Careers — Systems and Hardware Optimization (OpenAI)