• 来自 Intel 和 Microsoft 的专家讨论了如何使用 OpenVINO 工具包优化 AI 应用，以在个人设备和边缘设备上获得更好的性能。
  • 在上海展示的 AI 技术新进展有望加速应用开发，为数据安全带来机遇与挑战。

我们的观点
在上海由 Intel 和 Microsoft Reactor 举办的联合开发者日，重点是通过使用 Intel 的 OpenVINO 工具包，使小型语言模型 (SLM) 得到更广泛的应用和更高效的使用。本次活动汇聚了两家公司的顶级技术专家，提供了深入的会议，帮助开发者以不同方式使用 AI。它展示了向更易用、更强大的 AI 工具的转变，这可能会使更多人更容易使用 AI。这可能会催生各行业更具创意的应用和解决方案，同时也引发关于数据安全和 AI 伦理使用的重要问题。
–Heidi Luo，BTW 媒体记者

发生了什么

Intel 和 Microsoft Reactor 于周六在上海张江人工智能岛举办了联合开发者日。本次活动重点是小语言模型 (SML) 的高效部署和优化，旨在帮助开发者掌握基于 Phi-3 + OpenVINO 构建应用的能力。

Microsoft Phi-3 模型系列的发布使得 SLM 能够部署在边缘计算平台和个人笔记本电脑上。基于 Intel AI PC 和新版 OpenVINO 工具包，开发者可以快速部署 Phi-3，以支持 AI 应用开发。

来自 Microsoft 和 Intel 的技术专家分享了多方面的内容，包括最新的 OpenVINO 技术亮点和演示、Phi-3 与 OpenVINO 的结合，以及对Intel AI PC架构的分析。

会议还提供了基于新款 Intel Core Ultra 处理器的 AI PC 的动手演示，让开发者体验 Intel 最新处理器的强大性能。

推荐阅读：Microsoft 推出轻量级 AI 模型 Phi-3-mini

推荐阅读：Intel 押注中国电动汽车市场，推出新 AI 芯片

为何重要

“Phi-3 系列如此强大，以至于即使是其最小版本 Phi-3-mini，在多个基准测试中也超越了参数规模更大的模型。Phi-3 系列模型内存占用更小，可以在手机和其他设备上运行，从而降低了 AI 实际应用的门槛，”Microsoft 高级云布道师 Lu Jianhui 先生说道。

而 OpenVINO 工具包在加速 SLM 本地运行性能方面发挥着重要作用，并且可以与各种框架结合，为 Phi-3-mini 创建解决方案。

“人们也表达了对 AI 相关技术的担忧。“大小模型都是一个好方向，但它们不能解决所有问题，Phi-3 也只能解决某些特定问题，”与会者、软件开发工程师 Vu Yee Goh 说道。

AI 可以帮助开发者更高效地工作，更有效地编写和测试代码。但我们无法真正信任 AI 产生的内容。始终会存在数据安全问题。

Huawei 软件开发工程师 Li Mingguo

“每个公司的数据都是其隐私，因此他们只应该使用自己的数据来训练自己的 AI 大模型。用自己公司的数据训练的模型更符合自己公司的业务，然后数据安全才能得到保障。但训练公司自己的大模型成本更高，这对于小企业来说是难以承受的，”他说。