• Версия чипов памяти с высокой пропускной способностью (HBM) пятого поколения от Samsung Electronics, или HBM3E, успешно прошла тестирование Nvidia для использования в её процессорах искусственного интеллекта, по данным трёх осведомлённых источников.
  • Это событие знаменует важный этап в сотрудничестве двух технологических гигантов и указывает на прогресс в развитии технологий ИИ.

НАШЕ МНЕНИЕ
Nvidia — компания-пионер в области графических процессоров (GPU) и процессоров ИИ, стремящаяся к развитию вычислительных технологий для широкого круга приложений. Samsung Electronics — всемирно известный производитель бытовой электроники и полупроводников, известный своими инновационными и передовыми продуктами, которые двигают отрасль вперёд. Чипы HBM3E от Samsung в процессорах ИИ Nvidia обещают более высокую скорость, лучшую эффективность и способность обрабатывать более крупные и сложные модели ИИ, способствуя инновациям в области ИИ.
–Rebecca Xu, журналист BTW

Что произошло

По данным трёх осведомлённых источников, вариант чипов памяти с высокой пропускной способностью (HBM) нового поколения от Samsung Electronics, известный как HBM3E, успешно прошёл оценку Nvidia для интеграции в её процессоры искусственного интеллекта.

Хотя Samsung и Nvidia ещё не оформили соглашение о поставках протестированных 8-слойных чипов HBM3E, инсайдеры ожидают, что договорённость будет достигнута в ближайшее время, а поставки начнутся в четвёртом квартале 2024 года.

Стандарт HBM, разновидность памятиDRAM(динамической памяти с произвольным доступом), появившийся в 2013 году, предполагает вертикальное расположение чипов для экономии места и снижения энергопотребления. Она необходима для ИИ-GPU, помогая обрабатывать большие объёмы данных от сложных приложений. По данным исследовательской компанииTrendForce, в этом году чипы HBM3E должны стать доминирующим продуктом HBM на рынке, а основные поставки придутся на второе полугодие.

Читайте также:Samsung прогнозирует рост спроса на чипы, обусловленный ИИ

Читайте также:Задержка ИИ-чипов Nvidia — проверка для цепочки поставок в сфере ИИ

Почему это важно

Принятие Nvidia 8-слойных чипов HBM3E от Samsung должно существенно повлиять на будущее технологий ИИ, особенно в плане повышения производительности и эффективности.

Во-первых, чипы HBM3E обеспечивают значительное увеличение пропускной способности памяти, что крайне важно для процессоров ИИ, обрабатывающих сложные рабочие нагрузки. Чипы обеспечивают скорость передачи данных 9,6 Гбит/с, что лучше, чем 6,4 Гбит/с у HBM3, и обеспечивают более 1 200 Гбайт/с пропускной способности памяти по сравнению с 819 Гбайт/с у предыдущего поколения. Этот скачок пропускной способности позволяет обрабатывать более крупные и сложные модели ИИ, повышая производительность приложений ИИ.

Во-вторых, чипы HBM3E созданы с использованием передовых технологий, таких какметаллические затворы с высоким диэлектрическим коэффициентом(HKMG), которые снижают утечки электрического тока, оптимизируют внутреннюю схему и повышают энергоэффективность на 12 % по сравнению с предыдущим поколением. Такое повышение эффективности жизненно важно для процессоров ИИ, которым требуется высокая пропускная способность памяти при низком энергопотреблении, что позволяет им работать в оптимальных температурных диапазонах без ущерба для производительности.

Кроме того, чипы HBM3E от Samsung — первые в мире и на 50 % быстрее нынешних HBM3, обеспечивая суммарную пропускную способность 10 Тбайт/с. Это позволяет новой платформе запускать модели в 3,5 раза больше, чем предыдущая версия, а также повышает производительность благодаря пропускной способности памяти в 3 раза выше. Возможность подключения нескольких GPU для исключительной производительности и легко масштабируемая конструкция серверов ещё больше расширяет потенциал процессоров ИИ для решения более масштабных задач генеративного ИИ.