# Contourner Nvidia : les puces d'inférence des géants du cloud

> Maia 300 de Microsoft, TPU v6 de Google et Trainium2 d'AWS : les géants du cloud développent leurs puces d'inférence pour réduire le coût par jeton. Analyse.

- URL: https://roobrief.com/fr/posts/cloud-custom-ai-inference-chips
- Language: fr
- Published: 2026-10-29T02:20:00.000Z
- Tags: hardware, ai
- Source: https://semianalysis.com/2026/10/hyperscaler-custom-silicon-inference-economics

**Face aux marges de Nvidia et aux limites électriques des centres de données, les trois géants du cloud lancent une guerre des prix basée sur leurs puces d'inférence.**

Avec l'annonce par Microsoft de l'Azure Maia 300 – son accélérateur d'IA sur mesure de troisième génération gravé en 2 nm chez TSMC et doté de 288 Go de HBM (une mémoire empilée près d'un accélérateur d'IA pour échanger les données bien plus vite) de norme HBM4 –, la course au silicium propriétaire franchit un nouveau palier. Après le TPU v6 « Trillium » de Google et la puce Trainium2 d'AWS, Microsoft déploie à son tour ses puces maison à l'échelle du multi-gigawatt.

Au tout début de l'IA générative, l'entraînement des modèles constituait la priorité absolue, rendant l'achat de GPU Nvidia vital. Fin 2026, la donne a changé : plus de 70 % des dépenses d'infrastructure des fournisseurs cloud sont désormais consacrées à l'inférence (utiliser un modèle terminé pour produire des réponses) en temps réel, réorientant l'ensemble de leurs investissements matériels.

## Pourquoi les géants du cloud cherchent l'indépendance sur l'inférence plutôt que l'entraînement

L'écosystème logiciel CUDA (l'outil de calcul GPU de Nvidia) reste un verrou protecteur redoutable lors de la phase d'entraînement. En revanche, pour l'inférence en production, la donne est différente : les développeurs et les utilisateurs finaux appellent des jetons (un petit morceau de texte, à peu près une partie de mot, que les modèles d'IA lisent et écrivent) au travers d'API REST ou gRPC standards. Ils ignorent si la réponse est générée par un GPU commercial ou par un circuit dédié au fond du centre de données. Il est donc bien plus facile de contourner le verrouillage logiciel à ce niveau.

L'efficacité matérielle penche également pour des puces dédiées. Contrairement aux GPU grand public pourvus de circuits graphiques complexes et de calculs en double précision, les puces d'inférence se concentrent exclusivement sur les multiplications matricielles à faible précision et la vitesse de transfert mémoire nécessaire à la lecture du cache KV. Retirer les blocs de calcul superflus permet d'abaisser nettement les coûts de fabrication et la facture énergétique.

À cela s'ajoute la saturation des réseaux électriques mondiaux alimentant les centres de données. La puissance disponible en mégawatts étant plafonnée, le volume de jetons produit par mégawatt (efficacité énergétique par jeton) détermine directement la rentabilité opérationnelle des géants du cloud.

## Comparatif matériel : Microsoft Maia 300, Google TPU v6 et AWS Trainium2

| Fournisseur cloud | Accélérateur dédié | Principales caractéristiques matérielles | Stratégie de déploiement |
| :--- | :--- | :--- | :--- |
| **Google (GCP)** | **TPU v6 (Trillium)** | 32 Go HBM, SparseCore 3e gén., efficacité énergétique +67 % vs v5e | Sert Gemini et la recherche Google, instances GCP pour Apple et Anthropic |
| **AWS** | **Trainium2 / Inferentia2** | 96 Go HBM, 8x NeuronCore-v3, interconnexion NeuronLink | Grands clusters pour Anthropic et instances EC2 pour les entreprises |
| **Microsoft (Azure)** | **Azure Maia 300** | TSMC 2 nm, 288 Go HBM4 (18 To/s), baies de 96 puces refroidies par liquide | Réduit les coûts de calcul de M365 Copilot, GitHub Copilot et Azure OpenAI |

L'**Azure Maia 300** de Microsoft réalise le saut technologique le plus marqué : les puces de calcul N2P (classe 2 nm) de TSMC sont associées à 288 Go de mémoire HBM4. Les baies de 96 puces refroidies par liquide génèrent 40 % de jetons en plus par mégawatt par rapport aux systèmes GPU du marché, avec pour priorité de compresser les coûts d'exécution de Copilot.

Le **TPU v6 (Trillium)** de Google capitalise sur plus de dix ans de conception interne. Il améliore l'efficacité énergétique de 67 % par rapport à la génération v5e et intègre un SparseCore de troisième génération optimisé pour les modèles de recommandation et les plongements lexicaux. Il propulse Gemini et la recherche Google tout en étant loué aux clients de Google Cloud.

AWS s'appuie pour **Trainium2** sur 96 Go de mémoire HBM et huit moteurs NeuronCore-v3. Grâce à son bus propriétaire NeuronLink, les accélérateurs s'assemblent en grappes denses capables d'absorber les charges massives d'entreprises partenaires comme Anthropic.

## Ce que cette concurrence signifie pour le quasi-monopole de Nvidia et le prix des API

Les GPU du commerce ne vont pas disparaître du jour au lendemain. Pour le pré-entraînement des très grands modèles et les phases de recherche exploratoire, les clusters Nvidia demeurent le pilier incontournable.

Néanmoins, le basculement progressif des charges de travail d'inférence vers du silicium propriétaire érode inévitablement la rente de situation et les marges brutes historiques de Nvidia, supérieures à 70 %.

Pour les développeurs, cette divergence matérielle constitue une excellente nouvelle : dès lors que les fournisseurs de cloud réduisent de 30 à 50 % leurs coûts de traitement par jeton, cette baisse se répercute mécaniquement sur les tarifs des API et l'élargissement des quotas gratuits.

## Ce qu'il faut surveiller

Au-delà des fiches techniques, c'est l'intégration logicielle avec les moteurs de serving open source et les compilateurs d'IA qui scellera le succès de chaque puce.

Lorsque Microsoft mettra en service ses puces Maia 300 à l'échelle du gigawatt en 2027, les écarts de coût au jeton entre les trois géants dicteront la hiérarchie des infrastructures d'IA pour les années à venir.

## Sources

- [Azure Maia 300 Architecture Deep Dive](https://azure.microsoft.com/blog/azure-maia-300-architecture-deep-dive)
- [Google Cloud Trillium 6th Gen TPU](https://cloud.google.com/blog/products/compute/introducing-trillium-6th-gen-tpu)
- [AWS Trainium2 General Availability](https://aws.amazon.com/blogs/aws/announcing-general-availability-of-aws-trainium2)
- [SemiAnalysis Hyperscaler Custom Silicon Inference Economics](https://semianalysis.com/2026/10/hyperscaler-custom-silicon-inference-economics)