- Microsoft presenta el Maia 300, su más reciente chip de inteligencia artificial
- Diseñado con un enfoque de «inferencia primero», el Maia 300 ofrece enormes mejoras en eficiencia y consumo de energía
- El Maia 300 comenzará a implementarse en 2027
Microsoft ha presentado Maia 300, la próxima generación de su hardware de Azure, mientras se prepara para ampliar su infraestructura interna de IA a implementaciones de varios gigavatios.
La empresa afirma que Maia 300, cuyo despliegue está previsto para 2027, ofrecerá un 40 % más de tokens por megavatio que otros sistemas líderes basados en GPU; diseñado principalmente para la inferencia, este nuevo lanzamiento se enfoca en el razonamiento de contexto extenso, la IA conversacional con capacidad de respuesta y las tareas sostenidas de agentes de múltiples pasos.
Microsoft afirma que un rack que contenga 96 aceleradores Maia 300 proporcionará hasta siete veces el rendimiento de tokens a escala de rack que un rack de Maia 200.
Diseñado primero para la inferencia
Curiosamente, Microsoft afirma que espera que Maia 300 contribuya a respaldar una nueva generación de IA en todos sus productos y servicios, desde la codificación agentiva en GitHub hasta la implementación de modelos a gran escala a través de Microsoft Foundry.
Pero también espera una mejora en la inferencia y la generación de datos para su equipo de IA de Microsoft, así como mejoras en herramientas como Copilot y Cowork, además de en productos individuales como Microsoft Teams.
Diseñado con lo que Microsoft denomina una «arquitectura centrada en la inferencia», Maia 300 está creado para mejorar el rendimiento al reducir el movimiento de datos y hacer un uso más eficiente de los recursos de computación, memoria y red, según Microsoft, gracias a su arquitectura de flujo de datos definida por software, combinada con la optimización del núcleo asistida por IA, diseñada para mantener los datos cerca de las partes del sistema que los necesitan.
Como era de esperarse, la memoria es un elemento central del diseño, ya que Maia 300 utilizará ocho pilas de memoria HBM4, con un ancho de banda máximo anunciado de 18 TB/s dentro de un diseño térmico de 950 W. Microsoft afirma que el software especializado puede utilizar la memoria SRAM integrada en el chip como espacio de trabajo temporal, lo que reduce la presión sobre la HBM durante las cargas de trabajo más exigentes.
El acelerador también incorpora una arquitectura de múltiples chiplets que separa las funciones de cómputo, control de memoria y entrada/salida. Los chiplets de cómputo se fabricarán mediante el proceso N2P de TSMC. Microsoft señala que la compatibilidad con formatos de baja precisión, incluido un MXFP4 mejorado, reducirá las necesidades de memoria y ancho de banda. Esto ayudará al sistema a manejar ventanas de contexto más amplias y aumentar el rendimiento sin superar el mismo límite de consumo energético.
La conectividad de red está diseñada para funcionar como parte del flujo de datos del sistema, en lugar de operar como una capa independiente. Maia 300 utilizará conexiones de gran ancho de banda entre aceleradores para permitir el paralelismo de tensores, junto con un sistema de transporte de IA personalizado basado en infraestructura Ethernet. Microsoft afirma que este enfoque puede escalar desde un solo rack hasta implementaciones en centros de datos.
Un rack de Maia 300 contendrá 96 aceleradores dentro de un límite de consumo energético de 167 kW, con una capacidad de memoria HBM de 27.6 TB y un ancho de banda agregado de HBM de 1.7 petabytes por segundo. Microsoft asegura que esta densidad permitirá atender más interacciones de IA simultáneas y ejecutar cargas de trabajo más grandes desde cada rack.
Este lanzamiento se basa en el trabajo realizado con Maia 200, que, según Microsoft, ya ejecuta cargas de trabajo en producción, incluidas las de Microsoft 365 Copilot y los modelos desarrollados por su equipo de Microsoft AI.
La compañía afirma que Maia 200 ofrece hasta 1.7 veces más tokens por watt que la infraestructura de GPU líder para las funciones de IA integradas en Teams, Copilot y Cowork. Se espera que GitHub Copilot y Microsoft Foundry se incorporen antes de que termine este año.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
