Волатильность рабочих нагрузок ИИ увеличивает потери энергии в дата-центрах

Дата-центр Knowledge сообщило, что волатильность обучения ИИ создаёт резкие падения спроса на GPU в крупных кластерах. Операторы сглаживают эти провалы вторичными рабочими нагрузками: производительными задачами, конкурирующими с основным обучением, и фиктивными нагрузками, впустую расходующими электроэнергию. Сигнал для читателей BTW: энергетическое давление дата-центров ИИ — это также задача управления питанием с учётом рабочей нагрузки.

• Массовое синхронное обучение создаёт резкие падения спроса на GPU в крупных кластерах
• Вторичные рабочие нагрузки стабилизируют электропитание, но увеличивают энергетические и инфраструктурные затраты

Факт

Дата-центры ИИ потребляют больше энергии, в частности потому, что массовое синхронное обучение создаёт резкие падения спроса на GPU в кластерах. Операторы сглаживают эти провалы с помощью вторичных рабочих нагрузок: производительных задач, конкурирующих за ёмкость GPU, или фиктивных нагрузок, выполняющих бесполезные вычисления для поддержания стабильного профиля мощности. Oracle использует миллисекундный сигнал «сердцебиения» GPU для запуска такой активности. Эта практика раздувает энергопотребление, увеличивает потребности в охлаждении и может затягивать согласование подключения к сети.

Оценка

Энергетическое давление дата-центров ИИ связано не только с недостаточным производством электроэнергии, но и с неэффективным электрическим режимом внутри самих объектов. Вторичные рабочие нагрузки сглаживают спрос, но создают скрытые издержки: производительные задачи замедляют основное обучение, фиктивные нагрузки впустую тратят электроэнергию, а работа вблизи пиковых значений ускоряет износ оборудования. Отрасль компенсирует отсутствие управления питанием с учётом рабочей нагрузки на уровне оборудования и оркестрации дополнительными вычислениями.

Что отслеживать

Следите, разрабатывают ли поставщики GPU и операторы менее энергозатратные альтернативы вторичным рабочим нагрузкам: аппаратное сглаживание, прогнозное планирование или правила подключения к сети, учитывающие волатильность мощности.