Résumé

  • Park identifie les installations de 15 à 50 MW comme la cible la plus prometteuse, indiquant que les GPU et CPU plus anciens peuvent gérer de nombreuses tâches d’inférence.
  • Pado cible le marché intermédiaire de la colocation avec un logiciel qui planifie les charges de travail en fonction des capacités de calcul, d’alimentation et de refroidissement disponibles.

Le fait

Les centres de données existants pourraient traiter davantage d’inférences IA sans être reconstruits en installations haute densité, a déclaré Wannie Park, fondateur et PDG de Pado AI, à ESG Dive. Park a décrit les sites existants comme ayant généralement une capacité de 100 MW ou moins, les installations de 15 à 50 MW étant les plus adaptées. Il a précisé que de nombreuses tâches d’inférence peuvent être exécutées sur des GPU plus anciens ou des CPU traditionnels, bien que les systèmes de refroidissement plus anciens puissent être moins efficaces que ceux des installations IA plus récentes.

Pado est une entreprise de logiciels d’orchestration énergétique soutenue par LG NOVA, le centre d’innovation nord-américain de LG Electronics. Son logiciel coordonne l’alimentation, le calcul et le refroidissement, et peut déplacer les charges de travail en fonction de la capacité disponible. L’entreprise a levé 6 millions de dollars en mars pour se développer sur le marché intermédiaire de la colocation. L’interview d’ESG Dive n’a pas quantifié la part de la demande d’IA que les sites existants pourraient absorber, ni identifié de déploiement spécifique sur un site existant démontrant cette approche.

L’évaluation

La question pratique n’est pas de savoir si un site est « prêt pour l’IA » dans l’abstrait, mais quelles charges de travail son matériel et son refroidissement peuvent réellement prendre en charge. L’approche de Pado considère le placement des charges de travail comme un moyen d’utiliser davantage les installations existantes. Les opérateurs devraient faire correspondre les tâches aux capacités de calcul, d’alimentation et de refroidissement disponibles, plutôt que de simplement diriger tous les travaux d’IA vers de nouveaux sites haute densité.

Ce qui n’est pas encore clair, c’est la quantité de capacité utilisable qui peut être récupérée dans les installations existantes, ni la fréquence à laquelle les systèmes de refroidissement et d’alimentation plus anciens auraient besoin de mises à niveau. L’interview d’ESG Dive ne fournit pas de données de déploiement qui répondent à ces questions.

Pour les lecteurs de BTW, l’opportunité consiste à utiliser de manière sélective la capacité électrique existante. Les sites existants ne remplacent pas les nouveaux campus IA, mais ils peuvent offrir aux opérateurs un autre endroit pour exécuter des charges d’inférence adaptées, tout en réservant l’infrastructure haute densité plus récente aux tâches que les installations plus anciennes ne peuvent pas prendre en charge.

À surveiller

Surveillez si Pado ou des opérateurs de colocation publient des déploiements sur des sites existants qui identifient les charges d’inférence utilisées, le matériel existant et les éventuelles mises à niveau du refroidissement ou de l’alimentation. Les données d’utilisation, d’alimentation et thermiques avant et après l’orchestration montreraient si les installations plus anciennes peuvent absorber davantage de travaux d’IA sans reconstruction majeure.