Romper con Nvidia: la carrera de los chips de inferencia en la nube

Para sortear los altos márgenes de Nvidia y los límites eléctricos de los centros de datos, los tres grandes de la nube desatan una batalla con chips de inferencia propios.

Con la presentación por parte de Microsoft de Azure Maia 300 —su acelerador de IA a medida de tercera generación fabricado en 2 nm por TSMC y equipado con 288 GB de memoria HBM (memoria apilada junto a un acelerador de IA para mover datos mucho más rápido) bajo la norma HBM4—, la carrera por el silicio propio entre los gigantes de la nube entra en una fase decisiva. Tras la llegada de la sexta generación de TPU de Google («Trillium») y el acelerador Trainium2 de AWS, Microsoft se suma al despliegue de chips internos a escala de gigavatios.

En los inicios de la IA generativa, el entrenamiento de modelos absorbía casi toda la atención, convirtiendo la adquisición de GPU de Nvidia en una necesidad crítica. A finales de 2026, sin embargo, el despliegue diario es el centro del negocio: más del 70 % del gasto en infraestructura de los proveedores de nube se destina ya a la inferencia (usar un modelo ya terminado para generar respuestas) en tiempo real, lo que obliga a rediseñar su estrategia de hardware.

Por qué los gigantes de la nube buscan la independencia en la inferencia y no en el entrenamiento

El ecosistema de software CUDA (la herramienta de cálculo en GPU de NVIDIA) sigue siendo una barrera casi insuperable durante la fase de entrenamiento. En la inferencia en producción, en cambio, las reglas son distintas: desarrolladores y usuarios consumen tokens (un fragmento pequeño de texto, aproximadamente parte de una palabra, que los modelos de IA leen y escriben) a través de API estándar basadas en REST o gRPC. No necesitan saber si detrás de la llamada opera una GPU de Nvidia o un procesador específico. En este nivel resulta mucho más sencillo eludir el bloqueo de software.

La eficiencia energética y de diseño también juega a favor de la especialización. Frente a las GPU comerciales, diseñadas para complejas cargas gráficas y operaciones en coma flotante de doble precisión, los chips de inferencia se centran exclusivamente en el producto de matrices de baja precisión y en la velocidad de transferencia de memoria para leer la caché KV. Suprimir bloques de cálculo innecesarios reduce drásticamente el coste de fabricación y el consumo eléctrico.

A esto se suma el límite de suministro eléctrico que sufren los centros de datos en todo el mundo. Al estar la potencia en megavatios físicamente restringida, la cantidad de tokens generados por megavatio (eficiencia energética por token) determina de forma directa el margen operativo de los proveedores de nube.

Diferencias de hardware: Microsoft Maia 300, Google TPU v6 y AWS Trainium2

Proveedor de nube	Acelerador propio	Especificaciones clave de hardware	Estrategia de despliegue principal
Google (GCP)	TPU v6 (Trillium)	32 GB HBM, SparseCore de 3.ª gen., 67 % más eficiente que v5e	Da servicio a Gemini y el buscador, e instancias GCP para Apple y Anthropic
AWS	Trainium2 / Inferentia2	96 GB HBM, 8x NeuronCore-v3, interconexión NeuronLink	Clústeres masivos para Anthropic e instancias EC2 para empresas
Microsoft (Azure)	Azure Maia 300	TSMC 2 nm, 288 GB HBM4 (18 TB/s), racks líquidos de 96 chips	Abaratar el coste de servicio de M365 Copilot, GitHub Copilot y Azure OpenAI

Azure Maia 300 de Microsoft protagoniza el salto de proceso más ambicioso: combina matrices de cálculo N2P (clase 2 nm) de TSMC con 288 GB de memoria HBM4. Sus racks refrigerados por líquido con 96 chips generan un 40 % más de tokens por megavatio que los sistemas comerciales de GPU, con el foco puesto en recortar costes internos de Copilot.

La TPU v6 (Trillium) de Google se apoya en una experiencia acumulada desde 2015. Mejora la eficiencia energética un 67 % frente a la generación v5e e integra un SparseCore de tercera generación optimizado para modelos de recomendación y grandes mapas de incrustaciones. Da servicio a Gemini y la Búsqueda de Google, al tiempo que se ofrece a clientes de Google Cloud.

AWS equipa su Trainium2 con 96 GB de memoria HBM y ocho núcleos NeuronCore-v3. Mediante su red interna NeuronLink forma nodos de altísima densidad que canalizan grandes volúmenes de trabajo de empresas asociadas como Anthropic.

Qué supone este pulso para el dominio de Nvidia y el precio de las API

Las GPU comerciales no desaparecerán a corto plazo. Para el preentrenamiento de grandes modelos fundacionales y las etapas de investigación ágil, los clústeres de Nvidia continúan siendo la infraestructura de referencia.

Sin embargo, a medida que el grueso del tráfico constante de inferencia migre a silicio propio, las elevadas tasas de margen bruto de Nvidia —superiores al 70 %— afrontarán una fuerte presión a la baja.

Para los desarrolladores, esta diversificación es una ventaja clara: cuando los proveedores de nube recortan entre un 30 % y un 50 % el coste de servir cada token, esa eficiencia se traduce en tarifas de API más económicas y mayores cuotas gratuitas.

Qué vigilar en el futuro

Más allá de los datos técnicos, la integración con los compiladores de IA y los motores de servicio de código abierto marcará el destino de cada procesador.

Cuando Microsoft inicie el despliegue a gran escala de Maia 300 en 2027, la brecha de costes por token entre los tres gigantes definirá quién lidera la economía de la nube de IA.