• FlexSysAI と ResetData は、CSIRO および University of Queensland と共同で、稼働中の Nvidia H200 クラスター上で柔軟に調整できる AI ワークロードを試験している
  • この実証試験では、重要なワークロードに影響を与えずに、緊急度の低い計算処理を電力網が逼迫する時間帯を避けて移せるかを検証する

事実

FlexSysAI は、AI の計算需要を電力網の状況変化に応じて調整できるかを検証するため、ResetData、CSIRO、University of Queensland と共同で、オーストラリアでの実証試験を開始した。

このプラットフォームは、ResetData の AI-F1 施設にある Nvidia H200 クラスター上で稼働している。ワークロードをどの程度柔軟に調整できるかに応じて分類し、重要なタスクを保護する一方、電力網が逼迫した際には、緊急度の低い学習ジョブの処理量を減らしたり、実行時期をずらしたりできるようにする。CSIRO と University of Queensland は、試験データを独立して分析する予定だ。

FlexSysAI の初期モデル分析は、電力網からの信号を受けて数秒以内に、ResetData の GPU 上のワークロードを20～50％の幅で調整できる可能性を示唆している。この数値は計算ワークロードの変化を示すものであり、施設全体の電力使用量が同じ割合だけ減少したという実測結果ではない。

参加組織によると、AI 施設がこの種の柔軟性をどの程度確実に提供できるかを示す実運用データは、電力ネットワーク側にまだ不足している。この実証試験は、その不足を補うことを目的としている。

評価

試験の考え方は単純だ。すべての AI ジョブをまったく同じ時刻に実行する必要はない。電力網が逼迫した際に緊急度の低い処理を遅らせたり別の時間帯へ移したりできれば、データセンターは重要なジョブを実行し続けながら、電力需要の一部を抑えられる。

より難しいのは、その後に何が起きるかだ。一時停止した処理も完了させる必要があるため、試験では、処理の移動によって顧客の計算処理に遅延が生じないこと、また大量の電力需要を単に別の時間帯へ移すだけにならないことを示す必要がある。研究者がモデル分析だけに頼らず、実際の運用データを調べているのはそのためだ。

BTW の読者にとって有用なのは、実際にどれだけの電力需要を移せるのか、施設がどれほど速く応答できるのか、遅らせたワークロードが予定どおり完了するのかを示す証拠だ。そうした証拠があって初めて、電力網の運用者は、柔軟に調整できる AI 計算が電力網の計画に役立つかを判断できる。

注目点

CSIRO と University of Queensland が今後公表する、電力網への応答時にどれだけのワークロードが移され、その後何が起きたかを示す結果に注目したい。遅らせたジョブがサービスに影響を与えず完了したことを示す証拠が得られれば、現在のモデル分析だけよりも強い検証材料となる。