Escalando fábricas de IA con óptica empacada en el paquete para mayor eficiencia energética

TL;DR

• La óptica empacada en el paquete (CPO) integra el motor óptico directamente en el paquete del switch, reduciendo pérdidas eléctricas y la potencia por interfaz a aproximadamente 9W. NVIDIA.
• Los switches Quantum-X InfiniBand Photonics y Spectrum-X Photonics reemplazan transceptores modulares heredados, brindando mayor ancho de banda, densidad y resiliencia para fábricas de IA.
• Esta arquitectura admite hasta 409,6 Tb/s de ancho de banda y 512 puertos a 800 Gb/s, con enfriamiento líquido para cargas de IA densas; NVIDIA cita ganancias de eficiencia energética de 3,5x y una mejora de resiliencia de 10x.
• Disponibilidad prevista: switches Quantum-X InfiniBand a principios de 2026 y Spectrum-X Ethernet en la segunda mitad de 2026.
• Este cambio permite implementaciones más rápidas y operaciones más fiables para cargas de IA con agentes, con mejoras en el tiempo de encendido (aprox. 1,3x más rápido) y en el tiempo hasta el primer token.

Contexto y antecedentes

A medida que la IA redefine la computación, la red se convierte en la columna vertebral crítica del data center del futuro. El rendimiento del entrenamiento de modelos grandes depende no solo de recursos de cómputo sino de la agilidad, capacidad e inteligencia de la red subyacente. NVIDIA describe una transición de infraestructuras tradicionales centradas en CPU hacia fábricas de IA impulsadas por GPU y definidas por la red. La empresa ha construido una suite de soluciones de red para manejar demandas de alto ancho de banda, baja latencia y ráfagas de carga de IA a escala, entre ellas Spectrum-X Ethernet, NVIDIA Quantum InfiniBand y plataformas BlueField. Al orquestar cómputo y comunicaciones, el portafolio de red de NVIDIA sienta las bases para data centers de IA escalables, eficientes y resilientes, donde la red actúa como el sistema nervioso central de la innovación en IA. En centros de datos tradicionales, los switches de Nivel 1 se integran en cada rack y conectan directamente con cobre, suficiente para cargas centradas en CPU con demandas de red modestas. Las fábricas IA modernas presentan racks ultra-densos y miles de GPUs que trabajan en un mismo trabajo; exigen máxima ancho de banda y mínima latencia en todo el data center, lo que conduce a topologías donde el switch de Nivel 1 se desplaza al final de la fila. El resultado es un aumento de distancia entre servidores y switches, lo que hace que la conectividad óptica sea esencial. Con la óptica para conexiones NIC-switch y switch-switch, el consumo de energía y el número de componentes ópticos aumentan significativamente, cambiando el diseño físico y el perfil energético del data center. Los switches tradicionales que usan transceptores modulares dependen de múltiples interfaces eléctricas. La señal eléctrica debe recorrer largos trayectos desde el ASIC del switch hasta la PCB, conectores y finalmente el transceptor externo antes de convertirse en señal óptica. Este recorrido genera pérdidas eléctricas sustanciales, de hasta 22 dB para canales de 200 Gbps, requiriendo procesamiento de señal digital complejo, múltiples componentes activos y mayor consumo de potencia. La abundancia de módulos y conexiones no solo eleva el consumo de energía y la cuenta de componentes, sino que además complica la confiabilidad de enlaces a medida que las implementaciones de IA escalan.

Qué hay de nuevo

Las ópticas co-packaged (CPO) integran la conversión electro-óptica directamente en el paquete del switch. Con CPO, la fibra se conecta directamente al motor óptico que se ubica junto al ASIC, reduciendo las pérdidas eléctricas a aproximadamente 4 dB y el consumo de energía a ~9W por interfaz. Al simplificar el camino de la señal y eliminar interfaces innecesarias, este diseño mejora la integridad de la señal, la confiabilidad y la eficiencia energética, exactamente lo necesario para fábricas de IA de alta densidad y rendimiento. NVIDIA ha diseñado sistemas basados en CPO para satisfacer demandas sin precedentes de fábricas de IA. Al integrar motores ópticos directamente en el ASIC, las plataformas Quantum-X Photonics e Spectrum-X Photonics están destinadas a reemplazar los transceptores modulares heredados. Estas innovaciones no solo elevan el rendimiento y la eficiencia, sino también la confiabilidad al reducir el número de componentes que pueden fallar. Configuraciones de referencia incluyen Quantum-X Photonics InfiniBand y Spectrum-X Photonics, que se apoyan en fotónica de silicio integrada para lograr un ancho de banda extremo y latencia ultra baja. La extensión de CPO a Ethernet con Spectrum-X Photonics se orienta a IA generativa y tareas de entrenamiento/inferencia a gran escala. Spectrum-X utiliza dos chasis enfriados por líquido basados en el ASIC Spectrum-6 y fotónica de silicio integrada para minimizar componentes discretos e interfaces eléctricas. NVIDIA afirma mejoras de 3,5x en eficiencia energética y 10x en resiliencia al reducir el total de componentes ópticos susceptibles de fallar. En diseño, estas plataformas ofrecen una reducción en errores de sistema y una mayor facilidad de mantenimiento para equipos de tecnología en IA. El ecosistema de ópticas co-packaged de NVIDIA se apoya en una red de socios para asegurar la manufactura a gran escala y la confiabilidad en despliegues globales de infraestructura de IA. Entre las ventajas están el rendimiento de ancho de banda líder (hasta 409,6 Tb/s y 512 puertos a 800 Gb/s) y un enfriamiento líquido eficiente para entornos densos y de alto consumo. Variantes destacadas incluyen Quantum-X Photonics Q3450 y Spectrum-X Photonics SN6810 (single-ASIC) y SN6800 (quad-ASIC con mezcla de fibra integrada). La disponibilidad comercial está prevista para principios de 2026 para switches Quantum-X InfiniBand y para la segunda mitad de 2026 para switches Spectrum-X Ethernet. Se presenta este cambio como un nuevo estándar para redes optimizadas en la era de IA con agentes. Esté atento a la segunda parte de este blog, que explorará a fondo las engines de fotónica de silicio que alimentan Quantum-X Photonics y Spectrum-X Photonics, desglosando innovaciones y avances de ingeniería que hacen posible la conectividad óptica de próxima generación. Para saber más sobre NVIDIA Photonics, visite la página correspondiente.

Por qué importa (impacto para desarrolladores/empresas)

La adopción de óptica co-packaged no es solo una mejora de hardware; redefine cómo se diseñan y operan los data centers para IA a escala. Al reducir pérdidas eléctricas y consumo por interfaz, CPO disminuye el consumo total de energía y el calor en infraestructuras de IA densas. La reducción de componentes ópticos discretos y interfaces simplifica el despliegue, mejora la confiabilidad y facilita el mantenimiento — factores críticos para implementaciones de hiperescala y proyectos de IA empresariales. Para desarrolladores y empresas que construyen y ejecutan grandes modelos de IA, los beneficios se traducen en mayor ancho de banda efectivo con el mismo consumo de energía o menor, menor necesidad de refrigeración y mayor resiliencia ante fallas de componentes. Las mejoras en tiempo de encendido y en tiempo hasta el primer token aceleran los ciclos de implementación y permiten una mayor experimentación, alineándose con los ciclos de iteración habituales en investigación y producción de IA. Desde el punto de vista de diseño, estas soluciones permiten una topología más escalable para interconexiones crecientes de cargas de IA con agentes. La familia Quantum-X InfiniBand Photonics y Spectrum-X Photonics cubre tanto interconexiones de alto rendimiento como fabrics Ethernet optimizados para IA generativa, ampliando las opciones de diseño para data centers que buscan equilibrar latencia, ancho de banda y fiabilidad a gran escala. Esto es particularmente relevante para operadores de hiperescalado y empresas que persiguen soluciones de IA energéticamente eficientes que puedan crecer con la demanda, manteniendo disponibilidad y tiempos de servicio.

Detalles técnicos o Implementación

El diferenciador técnico central es la integración de engines ópticos directamente en el ASIC del switch, lo que caracteriza la óptica co-packaged. Al colocar la interfaz óptica junto al silicio, NVIDIA elimina múltiples interfaces eléctricas y trayectorias eléctricas largas, reduciendo pérdidas de hasta 22 dB a aproximadamente 4 dB y la potencia por interfaz de ~30W a ~9W. Este camino de señal simplificado aumenta la integridad de la señal, reduce la potencia y el calor, contribuyendo a una mayor confiabilidad en entornos de IA densos. La implementación combina fotónica de silicio con motores ópticos dedicados y un rediseño de la topología de interconexión. Quantum-X Photonics InfiniBand aprovecha la fotónica integrada para lograr alta anchura de banda y latencia ultrabaja, mientras que Spectrum-X Photonics extiende el enfoque co-packaged a Ethernet diseñado para IA generativa y entrenamiento/inferencia a gran escala. Spectrum-X utiliza dos chasis enfriados por líquido basados en el ASIC Spectrum-6, con fotónica de silicio integrada para minimizar componentes discretos e interfaces eléctricas. NVIDIA cita mejoras de 3,5x en eficiencia y 10x en resiliencia al reducir el conjunto total de componentes ópticos susceptibles de fallar. En términos de capacidad, se reporta hasta 409,6 Tb/s de ancho de banda y 512 puertos a 800 Gb/s. Variantes destacadas incluyen el Quantum-X Photonics Q3450 y Spectrum-X Photonics SN6810 (un ASIC) y SN6800 (cuádruple ASIC con mezcla de fibra integrada). Esto, junto con el enfriamiento líquido, sustenta despliegues IA densos. En conjunto, el ecosistema de socios de NVIDIA respalda una implementación a escala global que prioriza fiabilidad y facilidad de mantenimiento.

Tabla de referencia: comparación alto nivel (tradicional vs CPO)

Disponibilidad

• Switches Quantum-X InfiniBand: principios de 2026
• Switches Spectrum-X Ethernet: segunda mitad de 2026

Puntos clave

• Las ópticas co-packaged reducen pérdidas y consumo por interfaz, aumentando densidad y eficiencia para IA a gran escala.
• Quantum-X InfiniBand Photonics y Spectrum-X Photonics ofrecen ancho de banda alto y densidad de puertos con mayor fiabilidad gracias a menos componentes discretos.
• Ganancias de eficiencia (3,5x) y resiliencia (10x) provienen de fotónica integrada y simplificación del camino del señal.
• Los despliegues densos de IA se benefician de mayor rapidez de implementación y mejor tiempo hasta el primer token.
• Disponibilidad prevista para 2026 (Quantum-X a principios de 2026 y Spectrum-X en la mitad final); el ecosistema de socios sustenta la implementación a escala global.

Referencias

• NVIDIA blog: Scaling AI Factories with Co-Packaged Optics for Better Power Efficiency — https://developer.nvidia.com/blog/scaling-ai-factories-with-co-packaged-optics-for-better-power-efficiency