云环境中托管 AI 服务的兴起

由于公开证据表明其与互联网基础设施、治理、运营依赖性或市场可见性相关，BTW Media 对“云环境中托管 AI 服务的兴起”进行了分析。

• 随着生成式 AI 工具快速融入云业务模式，超过 70%的云环境正在使用托管 AI 服务。
• Microsoft 的 Azure 已成为 AI 服务领域的领导者，在被分析的 Azure 环境中约有 70%集成了 Azure AI Services，占所有云环境的约 39%。
• 云安全平台提供商 Wiz 强调了在未来一年中考虑与训练和推理相关成本的重要性。

云安全平台提供商Wiz透露，超过 70%的云环境正在使用托管 AI 服务。无论是直接使用OpenAI，还是通过Azure SDK，都表明生成式 AI 工具正快速融入云业务模式。

Azure 成为 AI 服务的领先云平台

该研究分析了超过 150,000 个公有云账户，突显了 Microsoft 的 Azure 在这一领域的领先地位。事实上，被分析的 Azure 环境中有 70%包含了 Azure AI Services 的实例，约占所有云环境的 39%。报告还指出，在 2023 年的四个月内，Azure OpenAI 的使用量增长了 228%。

尽管 Azure 的领先地位在意料之中，尤其是考虑到 AWS 最近推出了完全托管的产品 Amazon Bedrock，但报告也承认 Amazon SageMaker 的强势存在，紧随 Azure AI Services 之后。虽然 Amazon Bedrock 未被纳入分析，但 Wiz 表示至少有 15%的组织已开始采用它。

延伸阅读：OpenAI 大放异彩，汽车行业转型：CES 2024 揭示 AI 的影响

托管 AI 服务的用户采用趋势和挑战

有趣的是，根据 Wiz 的分类，大多数使用托管 AI 服务的用户仍处于实验阶段。然而，有相当一部分活跃用户（28%）和高级用户（10%）正在突破 AI 实施的界限。

Wiz 采用的分析方法侧重于将特定服务的实例数量与不同云环境相关联。高级用户（定义为拥有 50 个或更多实例的用户）面临着训练和微调相关的高成本，以及一些提供商对可部署 AI 服务实例数量施加的严格配额等挑战。

延伸阅读：Microsoft 的 Copilot 登陆 iOS，使付费 AI 服务变得多余

云环境中 OpenAI 模型和软件的集成

超过一半（53%）的被分析云环境正在使用 OpenAI 或 Azure OpenAI SDK，实现了与一系列 OpenAI 模型的无缝集成。此外，自托管 AI 和 ML 软件，如 Hugging Face Transformers（45%）、LangChain（32%）和 Tensorflow Hub 库（22%），在云配置中广泛流行。

Wiz 强调，与训练和推理相关的成本考量在未来一年对客户至关重要。这种对成本优化的关注可能成为组织在采用 AI 技术以及确定最有效投资路径时的一个转折点。

总之，报告预测 2024 年可能是公司评估其 AI 实验工作价值并战略性确定其拟追求的基于 AI 的产品和功能的关键一年。生成式 AI 实验不断发展的格局将展现其在提高运营效率和发掘各行业创新功能方面的潜力。