Resumen

  • Park identifica las instalaciones de 15–50 MW como el objetivo más firme, señalando que las GPU y CPU antiguas pueden manejar muchas tareas de inferencia
  • Pado se dirige al segmento de colocación de mercado medio con software que programa las cargas de trabajo según la computación, la energía y la refrigeración disponibles

El hecho

Los centros de datos heredados podrían manejar más inferencia de IA sin necesidad de ser reconstruidos como instalaciones de alta densidad, declaró Wannie Park, fundador y CEO de Pado AI, a ESG Dive. Park describió los sitios heredados como generalmente de 100 MW o menos, siendo las instalaciones de 15–50 MW las que mejor se adaptan. Afirmó que muchas tareas de inferencia pueden ejecutarse en GPU antiguas o CPU tradicionales, aunque los sistemas de refrigeración más antiguos pueden ser menos eficientes que los de las instalaciones de IA más recientes.

Pado es una empresa de software de orquestación energética respaldada por LG NOVA, el Centro de Innovación para Norteamérica de LG Electronics' North America Innovation Center. Su software coordina la energía, la computación y la refrigeración, y puede desplazar las cargas de trabajo según la capacidad disponible. La compañía recaudó 6 millones de dólares en marzo para expandirse al mercado de colocación de gama media. La entrevista de ESG Dive no cuantificó cuánta demanda de IA podrían absorber los sitios heredados ni identificó un despliegue específico en un sitio heredado que demuestre el enfoque.

La evaluación

La cuestión práctica no es si un sitio está “preparado para la IA” en abstracto, sino qué cargas de trabajo pueden soportar realmente su hardware y refrigeración. El enfoque de Pado trata la ubicación de las cargas de trabajo como una forma de utilizar más las instalaciones existentes. Los operadores necesitarían asignar las tareas a la capacidad de computación, energía y margen térmico disponible, en lugar de dirigir todo el trabajo de IA simplemente a nuevos sitios de alta densidad.

Lo que aún no está claro es cuánta capacidad utilizable se puede recuperar en las instalaciones heredadas, o con qué frecuencia los sistemas de refrigeración y energía más antiguos necesitarían mejoras. La entrevista de ESG Dive no proporciona datos de despliegue que respondan a esas preguntas.

Para los lectores de BTW, la oportunidad consiste en utilizar la capacidad energética existente de forma selectiva. Los sitios heredados no sustituyen a los nuevos campus de IA, pero pueden ofrecer a los operadores otro lugar para ejecutar cargas de trabajo de inferencia adecuadas, mientras reservan la infraestructura de alta densidad más nueva para tareas que las instalaciones más antiguas no pueden soportar.

Qué vigilar

Esté atento a que Pado u operadores de colocación publiquen despliegues en sitios heredados que identifiquen las cargas de trabajo de inferencia utilizadas, el hardware existente y cualquier mejora en refrigeración o energía. Los datos de utilización, energía y térmicos antes y después de la orquestación mostrarían si las instalaciones más antiguas pueden asumir más trabajo de IA sin necesidad de una reconstrucción importante.