• 据三位知情人士透露，三星电子第五代高带宽内存（HBM）芯片（即 HBM3E）的一个版本已通过英伟达的测试，可用于其人工智能处理器。
  • 这一进展标志着两大科技巨头合作的重要里程碑，并预示着人工智能技术向前迈出了一步。

我们的看法
英伟达是图形处理器（GPU）和人工智能处理器领域的先驱公司，致力于推动计算技术在各种应用中的发展。三星电子是一家全球知名的消费电子和半导体制造商，以其创新和先进的产品推动行业进步。三星的 HBM3E 芯片用于英伟达的 AI 处理器，有望带来更快的速度、更高的效率，并能够处理更大、更复杂的人工智能模型，推动人工智能创新向前发展。
——Rebecca Xu，BTW 记者

发生了什么

据三位知情人士透露，三星电子下一代高带宽内存（HBM）芯片的变体，即 HBM3E，已成功通过英伟达的评估，可用于其人工智能处理器。

尽管三星和英伟达尚未就测试过的 8 层 HBM3E 芯片正式签订供应协议，但内部人士预计该交易将很快敲定，并计划于 2024 年第四季度开始发货。

HBM 是一种DRAM（动态随机存取存储器）标准，于 2013 年推出，它通过垂直堆叠芯片来节省空间并降低功耗。HBM 是用于 AI 的 GPU 不可或缺的组成部分，有助于处理来自复杂应用的大量数据。据研究公司TrendForce称，HBM3E 芯片很可能在今年成为市场的主流 HBM 产品，出货量集中在下半年。

另请阅读：三星预测人工智能驱动的芯片需求激增

另请阅读：英伟达人工智能芯片延迟是对人工智能技术的供应链考验

为何重要

英伟达采用三星的 8 层 HBM3E 芯片将对人工智能技术的未来产生重大影响，尤其是在提高性能和效率方面。

首先，HBM3E 芯片显著提升了内存带宽，这对于处理复杂工作负载的 AI 处理器至关重要。该芯片提供 9.6Gb/s 的数据速率，较 HBM3 的 6.4Gb/s 有所提高，从而带来超过 1200GB/s 的内存带宽，而上一代则为 819GB/s。这一带宽的飞跃使得能够处理更大、更复杂的 AI 模型，从而增强了人工智能应用的性能。

其次，HBM3E 芯片采用了先进的技术，例如高 k 金属栅极（HKMG），可降低漏电流，优化内部电路，并将能效比上一代提高了 12%。对于要求高内存带宽且低功耗的 AI 处理器来说，这种效率提升至关重要，可确保它们在最佳温度范围内运行而不影响性能。

此外，三星的 HBM3E 芯片是全球首款，比目前的 HBM3 快 50%，提供总计 10TB/ 秒的综合带宽。这使得新平台能够运行比上一版本大 3.5 倍的模型，同时将性能提高了 3 倍的内存带宽。连接多个 GPU 以获得卓越性能和易于扩展的服务器设计的能力，进一步增强了 AI 处理器处理更大规模生成式 AI 工作负载的潜力。