• Alibaba Cloud et Cambricon ont rejoint la PyTorch Foundation en tant que membres Platinum, tandis qu’Ant Group l’a rejointe au niveau Gold
  • Le statut Platinum donne à Alibaba Cloud et à Cambricon des sièges au Governing Board et au Technical Advisory Council

Les faits

Alibaba Cloud et le fabricant chinois de puces d’IA Cambricon ont rejoint la PyTorch Foundation en tant que membres Platinum le 8 septembre. Ant Group a rejoint la fondation en tant que membre Gold. L’annonce a été faite lors de la PyTorch Conference China, à Shanghai.

L’adhésion au niveau Platinum donne à Alibaba Cloud et à Cambricon un siège chacun au sein du Governing Board et du Technical Advisory Council de la fondation. Les deux entreprises devraient contribuer aux travaux sur l’infrastructure d’IA et la prise en charge des accélérateurs. Huawei, déjà membre et contributeur de PyTorch, a également assisté à la conférence.

PyTorch sert à développer et à exécuter des modèles d’IA sur différents types de matériel informatique. Pour qu’un accélérateur fonctionne avec PyTorch, le logiciel de prise en charge doit pouvoir reconnaître le périphérique et exécuter les opérations requises par un modèle.

L’exécution d’un modèle sur plusieurs périphériques est plus complexe. Ces périphériques ont aussi besoin d’un logiciel qui leur permette de communiquer et de fonctionner ensemble. Il s’agit d’exigences générales de PyTorch, qui ne laissent pas entendre qu’Alibaba Cloud ou Cambricon connaisse un problème de compatibilité particulier.

L’analyse

L’adhésion donne à Alibaba Cloud et à Cambricon une place officielle dans la gouvernance de PyTorch, mais elle ne dit pas au client si un modèle fonctionnera bien sur un système donné. Cela dépend toujours du logiciel reliant PyTorch à l’accélérateur et de l’environnement informatique dans son ensemble.

Les opérations utilisées par un modèle doivent être prises en charge par l’accélérateur. Lorsqu’une opération ne peut pas s’exécuter nativement, le logiciel peut emprunter un autre chemin d’exécution, notamment en passant par le CPU, ce qui peut maintenir le modèle en fonctionnement tout en modifiant ses performances. Les tâches d’entraînement de plus grande ampleur ajoutent une autre exigence: le logiciel de communication doit coordonner la charge de travail entre plusieurs périphériques. Un test concluant sur un seul accélérateur ne permet donc pas d’établir comment la même charge de travail se comportera à l’échelle d’un cluster.

Pour les lecteurs de BTW, l’adhésion n’a d’importance que si elle améliore la prise en charge de charges de travail réelles. Cela signifie qu’un plus grand nombre d’opérations s’exécutent nativement sur les accélérateurs, que l’entraînement distribué reste stable sur plusieurs périphériques et que les logiciels continuent de fonctionner à mesure que PyTorch évolue. Les sièges au conseil donnent à Alibaba Cloud et à Cambricon une voix au sein du projet; les clients jugeront le résultat en fonction de ce qu’ils peuvent exécuter de manière fiable sur leurs systèmes.

À surveiller

Surveillez les nouvelles intégrations à PyTorch, la prise en charge des opérateurs et les versions consacrées à l’entraînement distribué publiées par Alibaba Cloud et Cambricon. Des tests reproductibles de charges de travail devraient montrer quelles opérations s’exécutent nativement, si des chemins de repli sont utilisés et comment les tâches se comportent sur plusieurs accélérateurs. Ces résultats offriraient une mesure plus claire de la prise en charge concrète que le seul statut de membre.