• Эксперты Intel и Microsoft обсудили оптимизацию ИИ-приложений с помощью инструментария OpenVINO для повышения производительности на персональных и периферийных устройствах.
  • Новые достижения в области ИИ-технологий, представленные в Шанхае, обещают ускорить разработку приложений, открывая новые возможности и одновременно создавая вызовы для безопасности данных.

НАШЕ МНЕНИЕ
Совместный день разработчиков, организованный в Шанхае компаниями Intel и Microsoft Reactor, был посвящён доступности и эффективности малых языковых моделей (SLM) благодаря инструментарию OpenVINO от Intel. Мероприятие собрало ведущих технических экспертов обеих компаний: они провели углублённые сессии, чтобы помочь разработчикам применять ИИ разными способами. Это демонстрирует ключевой сдвиг в сторону более простых и мощных инструментов ИИ, которые могут сделать ИИ доступнее для большего числа людей. Это может привести к появлению более творческих приложений и решений во всех отраслях, но одновременно поднимает важные вопросы о безопасности данных и этичном использовании ИИ.
– Heidi Luo, журналист BTW

Что произошло

В субботу Intel и Microsoft Reactor провели совместный день разработчиков на острове искусственного интеллекта Чжанцзян в Шанхае. Мероприятие было посвящено эффективному развёртыванию и оптимизации малых языковых моделей (SLM): оно задумано, чтобы помочь разработчикам освоить создание приложений на базе Phi-3 + OpenVINO.

Выход семейства моделей Phi-3 от Microsoft позволяет развёртывать SLM на платформах периферийных вычислений и личных ноутбуках. С помощью AI PC от Intel иновых инструментариев OpenVINOразработчики могут быстро развёртывать Phi-3 для поддержки разработки ИИ-приложений.

Технические эксперты Microsoft и Intel рассказали о разных аспектах: последних новинках и демонстрациях OpenVINO, сочетании Phi-3 и OpenVINO, а также разборе архитектурыAI PC от Intel.

На конференции также прошла практическая демонстрация нового AI PC на базе процессора Intel Core Ultra: разработчики смогли оценить мощность последнего процессора Intel.

Читайте также:Microsoft выпускает лёгкую ИИ-модель Phi-3-mini

Читайте также:Intel делает ставку на китайский рынок электромобилей с новыми ИИ-чипами

Почему это важно

«Серия Phi-3 настолько мощная, что даже самая маленькая версия, Phi-3-mini, превосходит модели с большим числом параметров в ряде бенчмарков. Модели серии Phi-3 потребляют меньше памяти и могут работать на мобильных телефонах и других устройствах, снижая практический порог входа в ИИ», — заявил старший облачный евангелист Microsoft Lu Jianhui.

Инструментарий OpenVINO играет важную роль в ускорении работы SLM при локальном запуске и может сочетаться с различными фреймворками, формируя решение для Phi-3-mini.

«Люди также высказывали опасения по поводу технологий, связанных с ИИ. „Крупные и малые модели — хорошее направление, но они не решают всех проблем: Phi-3 тоже может решать лишь определённые конкретные задачи“, — заявил инженер по разработке программного обеспечения Vu Yee Goh.

ИИ может помочь разработчикам работать продуктивнее, эффективнее писать и тестировать код. Но по-настоящему доверять тому, что предлагает ИИ, мы не можем. Проблемы безопасности данных будут всегда.

Li Mingguo, инженер по разработке программного обеспечения в Huawei

«Данные каждой компании — её частная собственность, поэтому логично, что компании обучают собственные большие ИИ-модели на своих данных. Модель, обученная на данных вашей компании, лучше подходит для её бизнеса, а безопасность данных при этом гарантирована. Но обучение собственной большой корпоративной модели стоит дорого: малые компании не могут себе этого позволить», — говорит он.