- Akamai Technologies и Neural Magic заключили стратегическое партнёрство для расширения возможностей ИИ глубокого обучения в распределённой вычислительной инфраструктуре Akamai.
- ПО Neural Magic позволяет моделям глубокого обучения эффективно работать на серверах на базе CPU, дополняя вычислительные возможности Akamai на периферии.
- Сотрудничество направлено на стимулирование инноваций в периферийном инференсе ИИ: организации получат сниженную задержку, повышенную производительность и экономию затрат для ресурсоёмких ИИ-приложений.
Akamai Technologies— облачная компания, обеспечивающая работу и защиту жизни в интернете, — иNeural Magic, разработчик ПО для ускорения ИИ-нагрузок, на этой неделе объявили о стратегическом партнёрстве, направленном на расширение возможностей глубокого обучения в распределённой вычислительной инфраструктуре Akamai. Сотрудничество даст компаниям производительную платформу для эффективного запуска ПО для ИИ глубокого обучения на серверах на базе CPU.
Решение Neural Magic позволяет моделям глубокого обучения работать на экономичных серверах на базе CPU вместо дорогостоящих GPU-ресурсов. За счёт автоматизированных технологий разреживания моделей ПО ускоряет ИИ-нагрузки, выступая в роли CPU-движка инференса. Это дополняет способность Akamai масштабировать, защищать и распространять приложения на периферии, позволяя разворачивать такие возможности в глобально распределённой вычислительной инфраструктуре Akamai. Партнёрство обеспечит организациям сниженную задержку и повышенную производительность ресурсоёмких ИИ-приложений.
Кроме того, сотрудничество должно стимулировать инновации в периферийном инференсе ИИ в самых разных отраслях. Совокупные возможности Akamai и Neural Magic особенно хорошо подходят для приложений, генерирующих огромные объёмы входных данных у периферии: они обеспечивают доступную вычислительную мощность и безопасность вблизи источников данных. Недавно Akamai анонсировала инициативуGeneralized Edge Compute (Gecko), встраивающую облачные вычисления в её обширную периферийную сеть для поддержки таких приложений и рабочих нагрузок.
John O’Hara, старший вице-президент по инжинирингу и операционный директор Neural Magic, отметил сложность эффективного развёртывания ИИ-моделей на периферии, назвав препятствием нехватку специализированного или дорогостоящего оборудования.
Мы намерены сделать ИИ умнее и быстрее. Масштабирование уникальных возможностей Neural Magic по запуску моделей глубокого обучения на платформе Akamai даёт организациям столь необходимую экономию средств и более высокую производительность на фоне быстрого внедрения ИИ-приложений.
Ramanath Iyer, главный стратег Akamai
В свою очередь Ramanath Iyer, главный стратег Akamai, заявил о намерении повысить эффективность и скорость ИИ, предоставив организациям экономию средств и рост производительности по мере внедрения ИИ-приложений.
И Akamai, и Neural Magic выросли из Массачусетского технологического института (MIT) и сохраняют штаб-квартиры поблизости.
Программа Akamai Qualified Compute Partnerгарантирует совместимость сервисов на основе партнёрских решений с облачными вычислениями Akamai и даёт клиентам простой доступ к услугам технологических партнёров Akamai. Эти сервисы проходят строгий процесс квалификации, подтверждающий их развёртываемость и масштабируемость в глобально распределённомAkamai Connected Cloud.
Читайте также:Open Source в Азии: Martin Winter из NetDEF о талантах и вызовах
Об Akamai
Akamai, играющая важную роль в обеспечении работы и защите жизни в интернете, предлагает широко распределённую периферийную и облачную платформу для создания, доставки и защиты цифровых сервисов по всему миру. Akamai Connected Cloud приближает приложения и пользовательский опыт к пользователям и одновременно снижает угрозы.
Об Neural Magic
Neural Magic ускоряет ИИ для бизнеса, оптимизируя open-source модели для эффективной работы на стандартном оборудовании. Компания, основанная профессором MIT и исследователем ИИ, помогает экономично доводить ИИ-инициативы до продакшена без ущерба для производительности и точности.