• Alibaba Cloud と Cambricon は PyTorch Foundation にプラチナ会員として参加し、Ant Group はゴールド会員として参加した
  • プラチナ会員資格により、Alibaba Cloud と Cambricon は Governing Board と Technical Advisory Council の議席を得る

事実関係

9月8日、Alibaba Cloud と中国の AI チップメーカー Cambricon は PyTorch Foundation にプラチナ会員として加わった。Ant Group はゴールド会員として加わった。発表は上海で開催された PyTorch Conference China で行われた。

プラチナ会員資格により、Alibaba Cloud と Cambricon はそれぞれ、PyTorch Foundation の Governing Board と Technical Advisory Council に議席を得る。両社は、AI インフラとアクセラレーター対応に関する取り組みに貢献することが期待されている。Huawei も、既存の PyTorch 会員および貢献企業として同会議に出席した。

PyTorch は、さまざまな種類の計算ハードウェア上で AI モデルを構築・実行するために使われる。アクセラレーターを PyTorch で動かすには、対応ソフトウェアがそのデバイスを認識し、モデルに必要な演算を実行できなければならない。

複数のデバイスにまたがってモデルを動かすのは、さらに複雑だ。それらのデバイスには、相互に通信し、連携して動作できるようにするソフトウェアも必要になる。これは PyTorch 全般に共通する要件であり、Alibaba Cloud または Cambricon に固有の互換性問題があることを示すものではない。

評価

会員資格によって、Alibaba Cloud と Cambricon は PyTorch の運営体制に正式な立場を得る。しかし、それだけでは、特定のシステム上でモデルがどの程度良好に動作するかを顧客が判断することはできない。それは依然として、PyTorch とアクセラレーターをつなぐソフトウェア、およびそれを取り巻く計算環境全体に左右される。

モデルが使用する演算は、アクセラレーター上でサポートされている必要がある。演算をネイティブ実行できない場合、ソフトウェアは CPU を含む別の実行経路を使うことがある。その場合、モデルの動作は維持できても、性能は変化し得る。より大規模な学習ジョブには別の要件も加わる。通信ソフトウェアが複数のデバイス間でワークロードを調整しなければならない。したがって、単一のアクセラレーターでテストに成功しても、同じワークロードがクラスター全体でどのような性能を示すかまでは分からない。

BTW 読者にとって、この会員資格が意味を持つのは、実際のワークロードへの対応改善につながる場合に限られる。つまり、より多くの演算がアクセラレーター上でネイティブ実行され、複数のデバイスで分散学習が安定し、PyTorch の進化に合わせてソフトウェアが動作し続けることを意味する。Governing Board の議席により、Alibaba Cloud と Cambricon はプロジェクトで発言する立場を得る。顧客は、自社システム上で何を安定して実行できるかによって、その成果を判断する。

注目点

Alibaba Cloud と Cambricon による新たな PyTorch 統合、演算子のサポート、分散学習関連のリリースに注目する。再現可能なワークロードテストでは、どの演算がネイティブ実行されるのか、フォールバック経路が使われるのか、複数のアクセラレーターにまたがるジョブがどのような性能を示すのかを明らかにする必要がある。そうした結果は、会員資格だけを基準にするよりも、実用面での対応状況を明確に測る材料になる。