Wie führt man Mistral AI aus?

How to run Mistral AI? wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit verknüpfen.

• Mistral AI ist ein französisches Unternehmen, das KI-Produkte verkauft. Es wurde im April 2023 von ehemaligen Mitarbeitern von Meta Platforms und Google DeepMind gegründet. 2 Modelle wurden veröffentlicht und stehen als Gewichte zur Verfügung, 3 Modelle sind nur über API verfügbar.
• Mistral AI ist ein echtes Open-Source-Projekt mit einer Apache 2.0-Lizenz, was bedeutet, dass es ohne Einschränkungen genutzt werden kann. Zusätzliche Tools wie Ollama und LM Studio werden benötigt, um lokale Operationen zu ermöglichen.

Perplexity AI, ein französisches Unternehmen, wurde im April 2023 von ehemaligen Mitarbeitern von Meta Platforms undGoogle DeepMindgegründet. Perplexity AI ist ein junges Unternehmen, das sich auf KI- und maschinelle Lernlösungen spezialisiert hat, mit Fokus auf die Entwicklung fortschrittlicher Algorithmen und Technologien zur Lösung komplexer Probleme in verschiedenen Branchen wie Finanzen, Gesundheitswesen und Technologie.

2 Modelle, Mistral 7B und Mixtral 8x7B, wurden veröffentlicht und sind als Gewichte verfügbar. 3 Modelle, Mistral Small, Mistral Medium und Mistral Large, sind nur über API verfügbar, was bedeutet, dass diese Modelle Closed Source sind und nur über die Anwendungsprogrammierschnittstellen (APIs) von Mistral zugänglich sind.

Lesen Sie auch:Das französische KI-Startup Mistral erschüttert die Branche mit der überraschenden Veröffentlichung eines LLM, der besser ist als ChatGPT

Mit der Einführung von Mistral Large hat Mistral AI auch einen Chatbot namens Le Chat gestartet, ein Pendant zu ChatGPT, um den erfolgreichen Weg von OpenAI zu replizieren. Microsoft hat im Februar eine neue Partnerschaft mit dem Unternehmen angekündigt, um seine Präsenz in der sich schnell entwickelnden KI-Branche auszubauen.

Was ist Mistral AI?

Perplexity AI, ein französisches Unternehmen, wurde im April 2023 von ehemaligen Mitarbeitern von Meta Platforms undGoogle DeepMindgegründet. Perplexity AI ist ein junges Unternehmen, das sich auf KI- und maschinelle Lernlösungen spezialisiert hat, mit Fokus auf die Entwicklung fortschrittlicher Algorithmen und Technologien zur Lösung komplexer Probleme in verschiedenen Branchen wie Finanzen, Gesundheitswesen und Technologie.

2 Modelle, Mistral 7B und Mixtral 8x7B, wurden veröffentlicht und sind als Gewichte verfügbar. 3 Modelle, Mistral Small, Mistral Medium und Mistral Large, sind nur über API verfügbar, was bedeutet, dass diese Modelle Closed Source sind und nur über die Anwendungsprogrammierschnittstellen (APIs) von Mistral zugänglich sind.

Lesen Sie auch:Das französische KI-Startup Mistral erschüttert die Branche mit der überraschenden Veröffentlichung eines LLM, der besser ist als ChatGPT

Mit der Einführung von Mistral Large hat Mistral AI auch einen Chatbot namens Le Chat gestartet, ein Pendant zu ChatGPT, um den erfolgreichen Weg von OpenAI zu replizieren. Microsoft hat im Februar eine neue Partnerschaft mit dem Unternehmen angekündigt, um seine Präsenz in der sich schnell entwickelnden KI-Branche auszubauen.

Wie führt man Mistral AI aus?

Mistral AI ist ein echtes Open-Source-Projekt mit einer Apache 2.0-Lizenz, was bedeutet, dass es ohne Einschränkungen genutzt werden kann. Schauen wir uns an, wie wir es auf einem lokalen Rechner installieren können, ohne viel Programmierung zu benötigen.

Lesen Sie auch:Wie erstellt man ein großes Sprachmodell (LLM)?

Die Welt der großen Sprachmodelle (LLMs) wird oft von cloudbasierten Lösungen dominiert. Daher sind zusätzliche Tools erforderlich, um lokale Operationen zu ermöglichen. Ollama bietet beispielsweise eine interessante Option, um LLMs lokal mit Unterstützung für die Integration des Mistral-Modells auszuführen. LM Studio verwendet eine quantisierte Version des Modells, sodass Benutzer das Modell einfach herunterladen und auf einem Laptop ausführen können.

Nehmen wir LM Studio als Beispiel: Sie können zuerst die offizielle Website von LM Studio besuchen, um die Windows- oder Mac-Version der Datei herunterzuladen. Es ist ein kleines Tool mit einer Download-Größe von etwa 400 MB.

Nach dem Herunterladen und Installieren gemäß den Anweisungen können Sie in der Suchleiste nach Mistral 7B suchen. Drücken Sie die Eingabetaste und Sie sehen die Varianten von Mistral 7B. Wählen Sie eine Version zum Herunterladen aus; die Dateigröße beträgt etwa 5 GB.

Sobald das Mistral AI-Modell auf lokale Systeme geladen ist, können wir versuchen, mit ihm zu interagieren und Fragen zu stellen; die Antwortzeit hängt von der Systemkapazität und dem Arbeitsspeicher usw. ab.

In einer Softwareumgebung wie LM Studio können Sie mit einem lokalen Inferenzserver maschinelle Lernmodelle auf Ihrer Hardware ausführen, und API-Aufrufe dienen dazu, Daten an diese Modelle zu senden und Ergebnisse zu empfangen.