Los aceleradores de IA que consumen más de un kilowatt cada uno elevan la potencia de los racks por encima de 60 kW, lo que hace que el suministro de energía y la refrigeración sean los verdaderos desafíos. La refrigeración por aire tradicional y los raíles de alimentación no pueden seguir el ritmo. La refrigeración por líquido, la distribución de alto voltaje y los materiales avanzados son esenciales para mantener el rendimiento y la fiabilidad. El verdadero poder de la IA reside en la infraestructura que respalda a los chips, no solo en los chips en sí.
Los aceleradores de IA como H100 y GB200 de NVIDIA están impulsando el consumo de energía a niveles sin precedentes: 700 a 1 200 W por chip, y el próximo GB300 alcanzará 1 400 W. En implementaciones densas como el rack NVLink 72, que alberga 72 GPUs en 18 bandejas de cómputo, las demandas de energía a nivel de rack pueden superar los 60 kW.
La refrigeración por aire tradicional, diseñada originalmente para CPU de 200 – 300 W, tiene dificultades para mantenerse al día, especialmente en formatos densos de servidores 1U y 2U comunes en el borde y en las implementaciones de telecomunicaciones. El flujo de aire limitado y la capacidad de los ventiladores provocan gradientes térmicos, puntos calientes y estrangulamiento, lo que reduce la confiabilidad y el tiempo de actividad.
La refrigeración líquida ha evolucionado de ser una tecnología de nicho a una necesidad. La refrigeración líquida directa (DLC) mediante placas frías reduce la resistencia térmica y admite mayores densidades. La refrigeración por inmersión está surgiendo en clústeres de IA a hiperescala, llevando los racks a más de 100 kW con una efectividad del uso de energía (PUE) inferior a 1.2. Estas soluciones líquidas reducen los diferenciales térmicos entre 10–15 °C en comparación con la refrigeración por aire, lo cual es fundamental para preservar el rendimiento y la longevidad del hardware.
El suministro de energía es igualmente desafiante. Las GPU modernas requieren más de 600 amperios a voltajes inferiores a 1 V, lo que impone exigencias extremas a los módulos reguladores de voltaje integrados (VRMs), que deben mantener una eficiencia superior al 90 % bajo cargas transitorias rápidas. Las redes de suministro de energía (PDNs.) deben usar interconexiones de baja inductancia y desacoplamiento efectivo para controlar la caída y la ondulación de voltaje.
A nivel de bastidor, muchos operadores superan los raíles de alimentación tradicionales de 12 V o 48 V. Los operadores a hiperescala están evaluando la distribución de ±400 VDC para reducir la corriente, minimizar el volumen del cableado y liberar espacio interno del chasis. Esta transición afecta el diseño de la PSU, los estándares de aislamiento y la gestión de EMI, lo que presenta nuevas fronteras de diseño.
A diferencia de los centros de datos a hiperescala, las implementaciones de telecomunicaciones y Edge enfrentan mayores restricciones de espacio y energía, lo que a menudo requiere cumplimiento de las normas NEBS y funcionamiento a temperatura ambiente superior a 50 °C, todo ello dentro de formatos de rack heredados de 19”. La implementación de inferencia de IA o conmutación de 800G en estos entornos requiere estrategias térmicas y eléctricas innovadoras.
La óptica coempaquetada (CPO) ilustra estos desafíos. Al integrar óptica con ASICs de conmutación de gran ancho de banda, la CPO reduce la latencia y la potencia por bit, pero aumenta la densidad térmica y plantea problemas de EMI e integridad mecánica. La gestión del calor, la vibración y la confiabilidad a largo plazo exige materiales como los materiales de interfaz térmica (como las pastas de relleno), junto con adhesivos de bajo módulo para mantener la integridad mecánica. Una estratificación mecánica incorrecta implica riesgo de fallas prematuras.
Este entorno complejo significa que los sistemas térmicos y de energía deben diseñarse conjuntamente con el hardware de cómputo. Los equipos mecánicos, eléctricos y de embalaje ya no pueden operar de forma aislada. Cada vatio ahorrado y cada grado reducido se traduce en un mayor rendimiento, tiempo de actividad y flexibilidad de implementación.
Como gerente de cuentas clave que colabora con arquitectos de sistemas y equipos de hardware, observo de primera mano cómo el diseño de sistemas integrados se convierte en el verdadero diferenciador. El éxito no consiste solo en entregar chips potentes, sino en permitir que esos chips funcionen a plena capacidad 24/7 en condiciones reales.
En el panorama actual impulsado por la IA, la potencia de cómputo es abundante; la verdadera escasez radica en suministrar y refrigerar esa energía de forma eficiente y confiable a escala, especialmente en contextos de telecomunicaciones y de borde. El cuello de botella no es el chip, sino la infraestructura que lo rodea.
- Artículo
- Folleto
- Estudio de caso
- Infografía
- Documento técnico
Nuestros expertos están aquí para conocer más sobre las necesidades.
Nuestro centro de soporte y expertos están listos para ayudarle a encontrar soluciones para las necesidades de su negocio.