• Mistral AI — французская компания, продающая ИИ-продукты. Она была основана в апреле 2023 года бывшими сотрудниками Meta Platforms и Google DeepMind. Опубликованы две модели, доступные в виде весов, и три модели, доступные только через API.
  • Mistral AI — настоящий проект с открытым исходным кодом под лицензией Apache 2.0, то есть его можно использовать без каких-либо ограничений. Для локальной работы нужны дополнительные инструменты, такие как Ollama и LM Studio.

Perplexity AI — французская компания, основанная в апреле 2023 года бывшими сотрудниками Meta Platforms и Google DeepMind; она выпускает и модели с открытыми весами, и модели, доступные только через API, в ответ на проприетарные модели. Mistral AI — настоящий проект с открытым исходным кодом под лицензиейApache 2.0, который можно запускать без каких-либо ограничений с помощью дополнительных инструментов.

Что такое Mistral AI?

Perplexity AI — французская компания, основанная в апреле 2023 года бывшими сотрудниками Meta Platforms иGoogle DeepMind. Perplexity AI — молодая компания, специализирующаяся на решениях в области ИИ и машинного обучения; она разрабатывает передовые алгоритмы и технологии для решения сложных задач в разных отраслях, включая финансы, здравоохранение и технологии.

Опубликованы две модели — Mistral 7B и Mixtral 8x7B — и они доступны в виде весов. Три модели — Mistral Small, Mistral Medium и Mistral Large — доступны только через API, то есть это закрытые модели, работающие исключительно через интерфейсы прикладного программирования Mistral.

Читайте также:Французский стартап Mistral встряхивает отрасль неожиданным релизом LLM, которая лучше ChatGPT

С запуском Mistral Large компания Mistral AI также выпустила чат-бота Le Chat — противовес ChatGPT, повторяющий успешный путь OpenAI. В феврале Microsoft объявила о новом партнёрстве с компанией, чтобы расширить своё присутствие в быстро развивающейся ИИ-отрасли.

Как запустить Mistral AI?

Mistral AI — настоящий проект с открытым исходным кодом под лицензией Apache 2.0, то есть его можно использовать без каких-либо ограничений. Давайте разберёмся, как установить его на локальную машину без особых знаний в программировании.

Читайте также:Как создать большую языковую модель (LLM)?

В мире больших языковых моделей (LLM) часто доминируют облачные решения. Поэтому для локальной работы нужны дополнительные инструменты. Например, Ollama — отличный вариант для запуска LLM локально с поддержкой интеграции моделей Mistral. LM Studio использует квантованную версию модели, благодаря чему пользователю легко скачать модель и запустить её на ноутбуке.

Взять хотя бы LM Studio: сначала зайдите на официальный сайт LM Studio и скачайте версию для Windows или Mac. Это небольшая программа размером около 400 МБ.

После загрузки и установки по инструкции найдите Mistral 7B в поисковой строке. Нажмите Enter — и вы увидите варианты Mistral 7B. Выберите одну версию для загрузки: размер файла составит около 5 ГБ.

Когда модель Mistral AI будет загружена в локальную систему, можно попробовать взаимодействовать с ней и задавать вопросы. Время ответа будет зависеть от мощности, объёма памяти и других характеристик системы.

В такой программной среде, как LM Studio, локальный сервер инференса позволяет запускать модели машинного обучения на вашем оборудовании, а вызовы API — это способ отправлять данные в эти модели и получать от них ответы.