Como executar Mistral AI?

Como executar Mistral AI? é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da Internet, governança, dependências operacionais ou visibilidade de mercado.

• Mistral AI é uma empresa francesa que vende produtos de IA. Foi fundada em abril de 2023 por ex-funcionários da Meta Platforms e Google DeepMind. 2 modelos foram publicados e estão disponíveis como pesos e 3 modelos estão disponíveis apenas via API.
• Mistral AI é um projeto de código aberto real com uma licença Apache 2.0, o que significa que pode ser usado sem restrições. Ferramentas adicionais são necessárias para permitir operações locais, como Ollam e LM Studio.

A Perplexity AI, uma empresa francesa, foi fundada em abril de 2023 por ex-funcionários da Meta Platforms e Google DeepMind, lançando tanto modelos de peso aberto quanto apenas via API como resposta aos modelos proprietários. Mistral AI é um projeto de código aberto real com umalicença Apache 2.0que pode ser executado sem restrições com a ajuda de ferramentas adicionais.

O que é Mistral AI?

A Perplexity AI, uma empresa francesa, foi fundada em abril de 2023 por ex-funcionários da Meta Platforms eGoogle DeepMind. A Perplexity AI é uma empresa jovem especializada em soluções de IA e aprendizado de máquina, focada no desenvolvimento de algoritmos e tecnologias avançadas para resolver problemas complexos em diversos setores, incluindo finanças, saúde e tecnologia.

Dois modelos, Mistral 7B e Mixtral 8x7B, foram publicados e estão disponíveis como pesos. Três modelos, Mistral Small, Mistral Medium e Mistral Large, estão disponíveis apenas via API, o que significa que esses modelos são de código fechado e estão disponíveis apenas através das Interfaces de Programação de Aplicações Mistral.

Leia também:Startup francesa de IA Mistral agita o mercado com lançamento surpresa de LLM melhor que o ChatGPT

Com o lançamento do Mistral Large, a Mistral AI também lançou um chatbot chamado Le Chat, um contraponto ao ChatGPT, para replicar o caminho de sucesso da OpenAI. A Microsoft anunciou uma nova parceria com a empresa em fevereiro para expandir sua presença na indústria de IA em rápida evolução.

Como executar Mistral AI?

Mistral AI é um projeto de código aberto real com uma licença Apache 2.0, o que significa que pode ser usado sem restrições. Vamos aprender como podemos instalá-lo em uma máquina local sem muita necessidade de codificação.

Leia também:Como criar um modelo de linguagem grande (LLM)?

O mundo dos modelos de linguagem de grande escala (LLMs) é frequentemente dominado por soluções baseadas em nuvem. Portanto, ferramentas adicionais são necessárias para permitir operações locais. O Ollama, por exemplo, oferece uma opção empolgante para executar LLMs localmente com o suporte da integração do modelo Mistral. O LM Studio usa uma versão quantizada do modelo, facilitando para os usuários baixarem o modelo e executá-lo em um laptop.

Tomemos o LM Studio como exemplo, você pode primeiro visitar o site oficial do LM Studio para baixar a versão para Windows ou Mac do arquivo. É uma ferramenta pequena com um tamanho de download de cerca de 400 MB.

Depois de baixado e instalado seguindo as instruções, você pode pesquisar por Mistral 7B nesta caixa de pesquisa. Pressione Enter e veja as variantes do Mistral 7B. Escolha uma versão para baixar, e o tamanho do arquivo é de cerca de 5 GB.

Depois que o modelo Mistral AI é carregado nos sistemas locais, podemos tentar interagir com ele e fazer perguntas, e o tempo de resposta dependerá da capacidade e memória do sistema, entre outros fatores.

Em um ambiente de software como o LM Studio, um Servidor de Inferência Local permitiria que você executasse modelos de aprendizado de máquina em seu hardware, e Chamadas de API seriam o método pelo qual você envia dados para e recebe dados desses modelos.