NVIDIAの包囲網を破る、クラウド3社の独自推論チップ競争
NVIDIAの高い利益率とデータセンターの電力制限を突破するため、大手クラウド3社が独自開発の推論チップを武器にトークン単価の消耗戦へ突入した。
MicrosoftがTSMCの2nmプロセスと288GBのHBM（AIアクセラレータのすぐ隣に積み、データをとても速くやり取りするメモリ）を次世代HBM4規格で搭載した第3世代の独自AIアクセラレータ「Azure Maia 300」を発表したことで、大手クラウド各社による独自シリコン競争は新たな局面に入った。Googleの第6世代TPU「Trillium」やAWSの「Trainium2」に続き、Microsoftも最先端プロセスの独自チップを前面に押し出した形だ。
生成AIブームの初期はモデルを作る「学習（Training）」が中心であり、NVIDIA製GPUの確保こそが最優先課題だった。しかし、日常的なサービス提供が主流となった2026年現在、クラウド事業者のAI支出の70%以上が「リアルタイム推論」へ集中している。推論（完成したモデルで答えを生成すること）への需要爆発に伴い、独自チップ戦略も学習から推論へと急速に舵を切っている。
なぜクラウド大手は学習ではなく「推論チップ」で自立を図るのか
NVIDIAのCUDA（NVIDIAのGPU計算ツール）エコシステムはモデル学習においては難攻不落の参入障壁だが、推論の現場では勝手が異なる。エンドユーザーや開発者はRESTやgRPCといった標準API経由でトークン（AIが文章を読み書きする単位で、単語を細かく分けた断片）を呼び出すだけであり、データセンターの裏側でNVIDIA製GPUが動いているか専用チップが動いているかを気にする必要がない。推論レイヤーではソフトウェアの囲い込み（ロックイン）を回避するのがはるかに容易だ。
ハードウェアの効率差も決定的な要因だ。汎用グラフィックス処理や高精度浮動小数点演算ブロックを備えた市販GPUとは異なり、専用推論チップは低精度の行列演算とKVキャッシュ読み出しに必要なメモリー転送速度だけに特化できる。不要な演算回路を削ぎ落とすことで、チップの製造コストと消費電力を劇的に引き下げられる。
さらに、世界中のデータセンターが直面する「電力供給の限界」も背景にある。使用可能な総電力量（メガワット）が物理的に制限されている環境下では、同じ電力量からいかに多くのトークン（回答）を生成できるか（電力あたりのトークン生成量）が事業者の営業利益率に直結する。
Microsoft Maia 300、Google TPU v6、AWS Trainium2のハードウェア比較
| クラウド事業者 | 独自アクセラレータ | 主なハードウェア仕様 | 主力活用戦略 |
|---|---|---|---|
| Google（GCP） | TPU v6（Trillium） | 32GB HBM、第3世代SparseCore、v5e比で電力効率67%向上 | Gemini・検索の推論、AppleやAnthropicなどGCP顧客への提供 |
| AWS | Trainium2 / Inferentia2 | 96GB HBM、8基のNeuronCore-v3、NeuronLink相互接続 | Anthropicの大規模クラスターやEC2外部顧客向け販売 |
| Microsoft（Azure） | Azure Maia 300 | TSMC 2nm、288GB HBM4（18 TB/s）、96基水冷ラック | M365 CopilotやGitHub Copilotなど自社サービスのコスト削減 |
MicrosoftのAzure Maia 300は最もアグレッシブに最先端プロセスを採用した。TSMCのN2P（2nm級）チップレットに288GBのHBM4メモリを搭載した。96基のチップを水冷ラックに収め、市販GPUと比較してメガワットあたりのトークン処理量を40%高めた。外販よりも自社サービスの運用コスト削減を主眼に置く。
GoogleのTPU v6（Trillium）は2015年から培われた最も成熟した独自シリコンエコシステムだ。前世代（v5e）比でエネルギー効率を67%改善し、大規模な埋め込みや推薦モデルの処理を高速化する第3世代SparseCoreを内蔵する。自社のGeminiや検索を支えるだけでなく、外部のGCP顧客にも大規模インスタンスとして供給されている。
AWSのTrainium2は96GBのHBMと8基のNeuronCore-v3を備える。独自インターコネクト技術のNeuronLinkを通じて超高密度ノードを構成し、Anthropicとのパートナーシップなどを通じてエンタープライズのワークロードを取り込んでいる。
推論チップ競争がNVIDIAの独占と開発者のAPI価格に及ぼす影響
大手各社が独自シリコンを導入しても、NVIDIA製GPUの需要が一夜にして消え去るわけではない。基盤モデルの超大規模な事前学習や機敏な研究開発においては、依然としてNVIDIAのクラスターが中核を担う。
しかし、インフラ全体の大部分を占める定常的な推論ワークロードが独自チップへと分散されれば、NVIDIAが享受してきた70%を超える高い利益率体制に風穴が開くことは避けられない。
これは開発者にとっても明確な追い風だ。クラウド3社が独自チップによってトークンの提供原価を30〜50%引き下げることができれば、API呼び出し単価の引き下げや無料利用枠の拡大といった価格競争として恩恵が還元されるからだ。
今後注目すべき点
ハードウェアの基本性能だけでなく、オープンソースの推論エンジンやコンパイラ層との最適化スピードが、各社シリコンの成否を分ける。
2027年にMicrosoftのMaia 300がギガワット規模で本格配備される際、クラウド3社のトークン単価差がどれほど広がるかが、長期的なインフラ覇権の試金石となるだろう。
出典
出典: semianalysis.com