Résumé

  • FlexSysAI et ResetData testent des charges de travail d’IA flexibles sur un cluster Nvidia H200 opérationnel, en collaboration avec CSIRO et University of Queensland
  • Le projet pilote examinera si les tâches de calcul moins urgentes peuvent être décalées en fonction des périodes de tension sur le réseau sans affecter les charges de travail importantes

Les faits

FlexSysAI a lancé en Australie un projet pilote avec ResetData, CSIRO et University of Queensland afin de déterminer si la demande de calcul liée à l’IA peut s’adapter aux variations des conditions du réseau électrique.

La plateforme fonctionne sur un cluster Nvidia H200 au sein de l’installation AI-F1 de ResetData. Elle regroupe les charges de travail selon leur degré de flexibilité, en protégeant les tâches critiques tout en permettant de réduire ou de décaler les tâches d’entraînement moins urgentes lorsque le réseau est sous pression. CSIRO et University of Queensland analyseront de manière indépendante les données de l’essai.

La modélisation préliminaire de FlexSysAI suggère que les charges de travail exécutées sur les GPU de ResetData pourraient être ajustées de 20 à 50 % dans les secondes qui suivent un signal du réseau. Ce chiffre décrit des variations des charges de calcul, et non une réduction mesurée de même ampleur de la consommation électrique totale de l’installation.

Selon les partenaires, les réseaux électriques manquent encore de données d’exploitation réelles montrant avec quelle fiabilité les installations d’IA peuvent offrir ce type de flexibilité. Le projet pilote a pour but d’aider à combler cette lacune.

L’analyse

L’idée qui sous-tend l’essai est simple: toutes les tâches d’IA ne doivent pas nécessairement s’exécuter exactement au même moment. Si les tâches moins urgentes peuvent être différées ou déplacées lorsque le réseau est sous pression, un centre de données pourrait réduire une partie de sa demande tout en continuant d’exécuter les tâches importantes.

La difficulté tient à ce qui se passe ensuite. Le travail mis en pause doit tout de même être achevé; l’essai doit donc montrer que ce décalage n’entraîne pas de retards pour les clients et ne se contente pas de reporter un important bloc de demande électrique à un autre moment. C’est pourquoi les chercheurs examinent des données d’exploitation réelles au lieu de s’appuyer uniquement sur des modélisations.

Pour les lecteurs de BTW, le résultat utile sera de disposer de preuves montrant quelle part de la demande peut réellement être déplacée, à quelle vitesse l’installation peut réagir et si les charges de travail différées s’achèvent comme prévu. Ce n’est qu’alors que les opérateurs de réseau pourront déterminer si le calcul d’IA flexible est utile à la planification du réseau.

À surveiller

Il faudra surveiller la publication, par CSIRO et University of Queensland, de résultats montrant quelle part de la charge de travail a été déplacée lors des événements de réponse au réseau et ce qui s’est passé ensuite. Des éléments montrant que les tâches différées ont été achevées sans affecter le service constitueraient un test plus solide que la seule modélisation actuelle.