• Akamai Technologies et Neural Magic ont formé un partenariat stratégique pour améliorer les capacités d'IA d'apprentissage profond sur l'infrastructure informatique distribuée d'Akamai.
  • Le logiciel de Neural Magic permet aux modèles d'apprentissage profond de fonctionner efficacement sur des serveurs basés sur CPU, complétant les capacités de calcul en périphérie d'Akamai.
  • La collaboration vise à stimuler l'innovation dans l'inférence d'IA en périphérie, offrant aux organisations une latence réduite, des performances améliorées et des économies de coûts pour les applications d'IA gourmandes en données.

Akamai Technologies, l'entreprise cloud qui alimente et protège la vie en ligne, et Neural Magic, un éditeur de logiciels spécialisé dans l'accélération des charges de travail d'IA, ont dévoilé cette semaine un partenariat stratégique visant à améliorer les capacités d'apprentissage profond sur l'infrastructure informatique distribuée d'Akamai. La collaboration fournira aux entreprises une plateforme performante pour exécuter efficacement des logiciels d'IA d'apprentissage profond sur des serveurs basés sur CPU.

La solution de Neural Magic permet aux modèles d'apprentissage profond de fonctionner sur des serveurs CPU économiques, plutôt que de recourir à des ressources GPU coûteuses. En exploitant des technologies automatisées de sparsification de modèles, le logiciel accélère les charges de travail d'IA, servant de moteur d'inférence CPU. Cela complète la capacité d'Akamai à mettre à l'échelle, protéger et distribuer des applications en périphérie, permettant le déploiement de capacités sur l'infrastructure informatique distribuée mondialement d'Akamai.

Le partenariat offrira aux organisations une latence réduite et des performances améliorées pour les applications d'IA gourmandes en données.

Article image
Traitement GPU vs CPU. Source: Cherry Servers

De plus, la collaboration est en passe de stimuler l'innovation autour de l'inférence d'IA en périphérie dans divers secteurs. Les capacités combinées d'Akamai et de Neural Magic sont particulièrement adaptées aux applications générant des quantités massives de données d'entrée près de la périphérie, offrant une puissance de traitement abordable et une sécurité à proximité des sources de données. Akamai a récemment annoncé son initiative Generalized Edge Compute (Gecko), intégrant des capacités de cloud computing dans son vaste réseau périphérique pour prendre en charge de telles applications et charges de travail.

John O’Hara, vice-président senior de l'ingénierie et COO de Neural Magic, a souligné le défi de fournir des modèles d'IA efficacement en périphérie, en mettant en évidence le manque de matériel spécialisé ou coûteux comme un obstacle.

Nous avons l'intention de rendre l'IA plus intelligente et plus rapide. La mise à l'échelle des capacités uniques de Neural Magic pour exécuter des modèles d'inférence d'apprentissage profond sur Akamai donne aux organisations accès à des économies de coûts bien nécessaires et à des performances supérieures alors qu'elles adoptent rapidement les applications d'IA.

Ramanath Iyer, stratège en chef chez Akamai

Pendant ce temps, Ramanath Iyer, stratège en chef chez Akamai, a exprimé l'intention d'améliorer l'efficacité et la vitesse de l'IA, offrant aux organisations des économies de coûts et des performances accrues alors qu'elles adoptent les applications d'IA.

Akamai et Neural Magic tirent tous deux leurs origines du Massachusetts Institute of Technology (MIT), et maintiennent leurs sièges sociaux à proximité.

Le Programme Partenaire de Calcul Qualifié Akamai garantit l'interopérabilité des services basés sur des solutions avec les services de cloud computing d'Akamai, offrant aux clients un accès facile aux services proposés par les partenaires technologiques d'Akamai. Ces services sont soumis à un processus de qualification rigoureux pour garantir leur déploiement et leur évolutivité sur le Akamai Connected Cloud distribué mondialement.

À lire aussi: Open Source en Asie: Martin Winter de NetDEF sur les talents et les défis

À propos d'Akamai

Akamai, qui joue un rôle important dans l'alimentation et la protection de la vie en ligne, propose une plateforme edge et cloud massivement distribuée pour créer, fournir et sécuriser des expériences numériques dans le monde entier. L'Akamai Connected Cloud rapproche les applications et les expériences des utilisateurs tout en atténuant les menaces.

À propos de Neural Magic

Neural Magic accélère l'IA pour les entreprises, en optimisant les modèles open-source pour qu'ils fonctionnent efficacement sur du matériel standard. Fondée par un professeur du MIT et un chercheur en IA, l'entreprise facilite l'avancement rentable des initiatives d'IA vers la production sans compromettre les performances et la précision.