• Новая модель ИИ Microsoft Phi-3 Mini эффективна и по возможностям близка к GPT-3.5, но при этом меньше по размеру — идеально подходит для портативных устройств.
  • С 3,8 миллиарда параметров Phi-3 Mini входит в серию лёгких ИИ-моделей, которые Microsoft выпускает для лучшей портативности и производительности.
  • Модель ИИ может работать локально на оборудовании с низким энергопотреблением, экономя энергию и затраты по сравнению с облачной обработкой, и стоит дешевле.

Microsoftпредставилапервую из трёх лёгких моделей ИИ— Phi-3 Mini, чтобы привлечь более широкую аудиторию доступными вариантами, сообщает Reuters. Новая модель имеет 3,8 миллиарда параметров и уже доступна на Ollama, Hugging Face и Azure.

О модели Phi-3 Mini

Phi-3 Mini — первая из трёх малых языковых моделей (SLM), которые выпускает компания. Она делает ставку на технологию, которая, как ожидается, окажет глубокое влияние на общество и на то, как люди работают.

Вице-президент платформы Microsoft Azure AI Эрик Бойд утверждает, что Phi-3 Mini — это «просто модель меньшего формата» по сравнению с такими моделями, как GPT-3.5. Она должна работать лучше на устройствах вроде ноутбуков и телефонов и стоить меньше как компактная ИИ-модель. Для обучения Phi-3, которая уже является улучшенной версией, поскольку способна эффективнее рассуждать и писать код, на основе списка из 3000 слов была создана детская книга с помощью LLM (большой языковой модели).

Это может составить конкуренцию Llama 3 8B от Meta, которая в некоторых областях начинает догонять GPT-4. Чем мощнее ИИ-модель, тем больше энергии она потребляет. Поскольку Phi-3 Mini может работать локально на оборудовании с низким энергопотреблением, а не передавать вычислительные задачи в дорогие облачные центры обработки данных, её меньший по сравнению с конкурентами размер — преимущество.

Модель достаточно компактна, чтобы работать на смартфоне, и уступает по размеру версиям с 7 и 14 миллиардами параметров — Phi-3 Small и Phi-3 Medium.

Себастьен Бубек, вице-президент по исследованиям GenAI в Microsoft, заявил: «Phi-3 не просто немного дешевле, она радикально дешевле: речь идёт о разнице в стоимости в 10 раз по сравнению с другими моделями с сопоставимыми возможностями».

Hugging Face — платформа моделей машинного обучения, Ollama — фреймворк для локального запуска моделей, а также каталог ИИ-моделей Azure предложат Phi-3-mini сразу же, сообщает Microsoft.

Читайте также:Полное руководство по зарядным устройствам для iPhone в ЕС

Читайте также:Партнёрство OpenAI и Microsoft: подробности

Подробнее

По словам Microsoft, SLM проще использовать компаниям с ограниченными ресурсами, поскольку они предназначены для выполнения более простых задач.

Малая языковая модель также оптимизирована для графических процессоров (GPU) Nvidia и будет доступна через программный инструмент компании — Nvidia Inference Microservices.

На прошлой неделе Microsoft выделила 1,5 миллиарда долларов эмиратскому ИИ-стартапу G42. Кроме того, ранее компания сотрудничала с французским стартапом Mistral AI, чтобы сделать свои модели доступными через облачную платформу Azure.