Gemeinsamer Entwicklertag von Intel und Microsoft hebt die Auswirkungen von OpenVINO auf die Bereitstellung kleiner Sprachmodelle hervor

Der gemeinsame Entwicklertag von Intel und Microsoft, der die Auswirkungen des OpenVINO-Toolkits auf die Bereitstellung kleiner Sprachmodelle hervorhebt, wird von BTW Media profiliert, weil veröffentlichte Beweise ihn mit Internet-Infrastruktur, Governance, Betriebsabhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Experten von Intel und Microsoft diskutierten die Optimierung von KI-Anwendungen mit dem OpenVINO-Toolkit für bessere Leistung auf persönlichen Geräten und Edge-Geräten.
• Die neuen Fortschritte in der KI-Technologie, die in Shanghai vorgestellt wurden, versprechen, die Anwendungsentwicklung zu beschleunigen und gleichzeitig Chancen und Herausforderungen für die Datensicherheit zu schaffen.

UNSERE MEINUNG
Der gemeinsame Entwicklertag, der in Shanghai von Intel und Microsoft Reactor organisiert wurde, konzentrierte sich auf die Verallgemeinerung und Effizienz kleiner Sprachmodelle (SLM) mit Hilfe des OpenVINO-Toolkits von Intel. Die Veranstaltung brachte die besten technischen Experten beider Unternehmen zusammen und bot vertiefte Sessions, um Entwicklern zu helfen, KI auf verschiedene Weise zu nutzen. Sie zeigt einen wichtigen Wandel hin zu einfacheren und leistungsstärkeren KI-Tools, die den Zugang zu KI für mehr Menschen erleichtern könnten. Dies könnte zu kreativeren Anwendungen und Lösungen in allen Branchen führen, wirft aber auch wichtige Fragen zur Datensicherheit und ethischen Nutzung von KI auf.
–Heidi Luo, BTW-Journalistin

Was passiert ist

Intel und Microsoft Reactor haben am Samstag auf der Zhangjiang KI-Insel in Shanghai einen gemeinsamen Entwicklertag veranstaltet. Die Veranstaltung konzentrierte sich auf die effiziente Bereitstellung und Optimierung kleiner Sprachmodelle (SLM) und sollte Entwicklern helfen, die Erstellung von Anwendungen auf Basis von Phi-3 + OpenVINO zu meistern.

Die Veröffentlichung der Phi-3-Modellfamilie von Microsoft ermöglicht die Bereitstellung von SLMs auf Edge-Computing-Plattformen und persönlichen Laptops. Basierend auf Intels AI PC und denneuen OpenVINO-Toolkitskönnen Entwickler Phi-3 schnell bereitstellen, um die Entwicklung von KI-Anwendungen zu unterstützen.

Technische Experten von Microsoft und Intel teilten verschiedene Aspekte, die die neuesten technologischen Entwicklungen von OpenVINO und Demonstrationen, die Kombination von Phi-3 und OpenVINO sowie die Analyse derAI-PC-Architektur von Intelabdecken.

Die Konferenz bot auch eine praktische Demonstration des neuen AI PCs basierend auf dem Intel Core Ultra Prozessor, die es Entwicklern ermöglichte, die Leistung des neuesten Intel-Prozessors zu erleben.

Lesen Sie auch:Microsoft bringt leichtes KI-Modell Phi-3-mini auf den Markt

Lesen Sie auch:Intel setzt mit neuen KI-Chips auf den chinesischen Markt für Elektroautos

Warum es wichtig ist

„Die Phi-3-Serie ist so leistungsstark, dass selbst die kleinste Version, das Phi-3-mini, Modelle mit größeren Parameterzahlen in mehreren Benchmarks übertrifft. Die Modelle der Phi-3-Serie verbrauchen weniger Speicher und können auf Mobiltelefonen und anderen Geräten ausgeführt werden, wodurch die Schwelle für KI in der Praxis gesenkt wird“, sagte Lu Jianhui, Senior Cloud Evangelist bei Microsoft.

Das OpenVINO-Toolkit spielt eine wichtige Rolle bei der Beschleunigung der Leistung von SLMs im lokalen Betrieb und kann mit verschiedenen Frameworks kombiniert werden, um eine Lösung für Phi-3-mini zu schaffen.

„Die Menschen haben auch Bedenken hinsichtlich der KI-bezogenen Technologie geäußert. Große und kleine Modelle sind eine gute Richtung, aber sie können nicht alle Probleme lösen, auch Phi-3 kann nur bestimmte spezifische Probleme lösen“, sagte Vu Yee Goh, Softwareentwicklungsingenieur.

KI kann Entwicklern helfen, effizienter zu arbeiten, Code schneller zu schreiben und zu testen. Aber wir können dem, was KI vorschlägt, nicht wirklich vertrauen. Es wird immer Probleme mit der Datensicherheit geben.

Li Mingguo, Softwareentwicklungsingenieur bei Huawei

„Die Daten jedes Unternehmens sind ihr Privateigentum, daher ist es sinnvoll, dass sie ihre eigenen Daten verwenden, um ihr eigenes großes KI-Modell zu trainieren. Ein Modell, das aus den Daten Ihres eigenen Unternehmens trainiert wurde, ist besser für das Geschäft Ihres Unternehmens geeignet, und die Datensicherheit kann dann gewährleistet werden. Aber das Training eines eigenen großen Unternehmensmodells ist teurer, was für kleine Unternehmen unerschwinglich ist“, sagte er.