Что такое Mistral AI?

• Французский стартап в области искусственного интеллекта выводит генеративный ИИ на новый уровень с помощью своих коммерческих LLM и моделей с открытым исходным кодом.
• При сильной поддержке известных инвесторов, таких как Microsoft и Andreessen Horowitz, Mistral достигла оценки в 5 миллиардов долларов, став грозным конкурентом на всё более насыщенном рынке генеративного ИИ.
• Делая свои LLM более доступными, чем у некоторых самых мощных ИИ-компаний, Mistral утверждает, что «обучая собственные модели, публикуя их в открытом доступе и поощряя вклад сообщества, мы можем создать реальную альтернативу формирующейся олигополии в сфере ИИ».

Что такое Mistral AI?

Mistral AI — французский стартап в области искусственного интеллекта, основанный в 2023 году. Он создаёт открытые и коммерческие модели ИИ, некоторые из которых показывают результаты передового уровня по множеству отраслевых бенчмарков.

Благодаря сильной поддержке известных инвесторов, таких как Microsoft и Andreessen Horowitz, Mistral оценивается в 5 миллиардов долларов и является грозным конкурентом на всё более насыщенном рынке генеративного ИИ. Самая производительная коммерческая LLM компании превосходит модели таких признанных гигантов, как Google и Anthropic, по ряду отраслевых бенчмарков и даже бросает вызов GPT-4 от OpenAI, который часто считают золотым стандартом производительности ИИ-моделей.

Компания также создала набор моделей с открытым исходным кодом, которые любой может бесплатно использовать и модифицировать. Делая свои LLM более доступными, чем у некоторых самых мощных ИИ-компаний, Mistral утверждает, что «обучая собственные модели, публикуя их в открытом доступе и поощряя вклад сообщества, мы можем создать реальную альтернативу формирующейся олигополии в сфере ИИ».

Что предлагает Mistral AI?

Mistral AI предлагает несколько LLM — как коммерческих, так и с открытым исходным кодом. У каждой модели свой уникальный набор преимуществ и возможностей.

Все коммерческие модели Mistral являются закрытыми и доступны только через API.

Mistral Large:самая продвинутая модель Mistral AI.

Подходит для сложных задач, таких как синтетическая генерация текста и генерация кода.

Занимает второе место после GPT-4 по ряду отраслевых бенчмарков.

Максимальное контекстное окно — 32 тыс. токенов.

Свободно работает с английским, французским, испанским, немецким и итальянским языками, а также с кодом.

Mistral Small:ориентирована на эффективные рассуждения для задач с низкой задержкой.

Подходит для простых массовых задач, таких как генерация текста и классификация текста.

Максимальное контекстное окно — 32 тыс. токенов.

Свободно работает с английским, французским, испанским, немецким и итальянским языками, а также с кодом.

Mistral Embed:преобразует текст в числовые представления (так называемые эмбеддинги), чтобы компьютер мог обрабатывать и анализировать слова понятным для него способом.

Подходит для таких задач, как анализ тональности и классификация текста.

В настоящее время доступна только на английском языке.

Все модели Mistral с открытым исходным кодом бесплатны и распространяются под лицензией Apache 2.0 — полностью разрешительной лицензией, которая позволяет любому использовать их где угодно без ограничений.

Mistral 7B:разработана для лёгкой настройки и быстрого развёртывания.

Справляется с большими объёмами данных быстрее и с минимальными вычислительными затратами.

Обучена на наборе данных с примерно 7 миллиардами параметров, но превосходит Llama 2 (13 миллиардов параметров) и сопоставима с моделями с объёмом до 30 миллиардов параметров.

Максимальное контекстное окно — 32 тыс. токенов.

Можно использовать на английском языке и для кода.

Mixtral 8x7B:разработана для высокой производительности при минимальных вычислительных затратах.

Использует архитектуру смеси экспертов; для инференса задействует только около 12 миллиардов из возможных 45 миллиардов параметров.

Превосходит и Llama 2 (70 миллиардов параметров), и GPT-3.5 (175 миллиардов параметров) по большинству бенчмарков.

Максимальное контекстное окно — 32 тыс. токенов.

Свободно работает с английским, французским, испанским, немецким и итальянским языками, а также с кодом.

Mixtral 8x22B:самая продвинутая модель Mistral AI с открытым исходным кодом.

Подходит для таких задач, как суммаризация больших документов или генерация больших объёмов текста.

Более крупная версия Mixtral 8x7B; для инференса использует около 39 миллиардов из возможных 141 миллиарда параметров.

Превосходит Llama 2 70B и Command R и R+ от Cohere по соотношению цена-производительность.

Максимальное контекстное окно — 64 тыс. токенов.

Свободно работает с английским, французским, испанским, немецким и итальянским языками, а также с кодом.

Le Chat:помимо LLM, Mistral AI предлагает Le Chat — ИИ-чат-бота, который может генерировать контент и вести беседы с пользователями, подобно таким платформам, как ChatGPT, Gemini и Claude. Mistral AI также позволяет пользователям выбирать, какая модель будет работать внутри: Mistral Large для более качественных рассуждений, Mistral Small для скорости и экономичности или Mistral Next — прототип модели, предназначенный для коротких и ёмких ответов.

Однако Le Chat не имеет доступа к интернету в реальном времени, поэтому его ответы не всегда могут быть актуальными. И как любой инструмент генеративного ИИ, он может давать предвзятые ответы и совершать ошибки. Но Mistral заявляет, что работает над тем, чтобы сделать свои модели «максимально полезными и наименее предвзятыми».

Читайте также:Как создать большую языковую модель (LLM)?

Для чего используется Mistral AI?

Все LLM Mistral AI являются базовыми моделями, то есть их можно дообучать и использовать для широкого круга задач обработки естественного языка, например:

Чат-боты:позволяют чат-ботам понимать запросы пользователей на естественном языке и отвечать более точно и по-человечески.

Суммаризация текста:извлекают суть статей и документов и сжато резюмируют ключевые моменты.

Создание контента:генерируют текст на естественном языке, включая электронные письма, контент для соцсетей, короткие рассказы, сопроводительные письма и многое другое.

Классификация текста:распределяют текст по категориям, например, помечают электронные письма как спам или не спам в зависимости от содержания.

Дополнение кода:генерируют фрагменты кода, оптимизируют существующий код и предлагают исправления ошибок для ускорения процесса разработки.

Как использовать модели Mistral AI?

Все модели Mistral AI можно найти на её сайте. Они также доступны на таких платформах, как Amazon Bedrock, Databricks, Snowflake Cortex и Azure AI.

Чтобы использовать модели напрямую на сайте Mistral AI, посетите La Plateforme — платформу для разработки и развёртывания ИИ. Там можно настроить барьеры безопасности и дообучить модели под свои требования перед интеграцией в собственные приложения и проекты. Цены зависят от используемой модели. Например, Mistral 7B стоит 0,25 доллара за миллион входных токенов, а Mistral Large — 24 доллара за миллион выходных токенов.

Кроме того, с большими и малыми моделями Mistral можно взаимодействовать через Le Chat — бесплатного ИИ-чат-бота компании. Все модели Mistral AI можно найти на её сайте. Они также доступны на таких платформах, как Amazon Bedrock, Databricks, Snowflake Cortex и Azure AI.

Чтобы использовать модели напрямую на сайте Mistral AI, посетите La Plateforme — платформу для разработки и развёртывания ИИ. Там можно настроить барьеры безопасности и дообучить модели под свои требования перед интеграцией в собственные приложения и проекты. Цены зависят от используемой модели. Например, Mistral 7B стоит 0,25 доллара за миллион входных токенов, а Mistral Large — 24 доллара за миллион выходных токенов.

Кроме того, с большими и малыми моделями Mistral можно взаимодействовать через Le Chat — бесплатного ИИ-чат-бота компании.