- Экспоненциальный рост ИИ, на примере ChatGPT, может привести к значительному росту спроса на электроэнергию: к 2030 году ИИ может потреблять до 25 % электроэнергии США, что вызывает опасения по поводу надвигающегося энергетического кризиса и развязывания мировой «энергетической войны».
- Чтобы справиться с растущим энергопотреблением ИИ, эксперты отрасли и ведущие технологические компании, включая Amazon, Google и Альтмана, реализуют такие стратегии, как оптимизация больших моделей и аппаратного обеспечения ИИ для снижения энергопотребления, а также инвестиции в новые источники энергии, например в термоядерный синтез.
- Несмотря на трудности, связанные с энергопотреблением ИИ, сохраняется оптимизм относительно возможности удовлетворить спрос благодаря постоянному прогрессу в возобновляемой энергетике, модернизации инфраструктуры и международному сотрудничеству, направленному на обеспечение устойчивого энергетического будущего в эпоху революции ИИ.
ПокаChatGPTвызывает новую волну ажиотажа вокруг искусственного интеллекта (ИИ), скрытый вопрос энергопотребления продолжает привлекать внимание.
10 апреля этого годаРене Хаас, генеральный директор гиганта чипов Arm, публично заявил, что большие модели ИИ, такие как ChatGPT, требуют значительной вычислительной мощности. По оценкам, к 2030 году центры обработки данных ИИ будут потреблять от 20 % до 25 % спроса на электроэнергию в США, что значительно больше нынешних 4 %.
Согласно открытым данным, ChatGPT сейчас обрабатывает более 200 миллионов запросов в день, потребляя до 500 000 киловатт-часов электроэнергии ежедневно. Это означает, что только на ChatGPT ежегодный счёт за электроэнергию составляет 200 миллионов юаней.
Это означает, что ежедневное энергопотребление ChatGPT более чем в 17 000 раз превышает потребление среднестатистического домохозяйства. (Коммерческая электроэнергия в США сейчас стоит около $0,147 за киловатт-час, то есть 1,06 юаня, или 530 000 юаней в день.)
По словам Алекса де Вриса, руководителя нидерландской консалтинговой компании, к 2027 году индустрия ИИ будет потреблять от 850 до 1 340 миллиардов киловатт-часов электроэнергии в год, что эквивалентно общему годовому потреблению электроэнергии такой европейской страны, как Швеция или Нидерланды.
Маск прогнозирует, что дефицит электроэнергии может наступить уже в 2025 году, заявляя: «В следующем году вы увидите, что нам не хватит электричества, чтобы запитать все чипы».
Генеральный директор OpenAIСэм Альтмантакже прогнозирует энергетический кризис в индустрии ИИ, отмечая, что будущее технологическое развитие ИИ будет сильно зависеть от энергии и людям понадобится больше фотоэлектрических систем и накопителей энергии.
Всё это указывает на то, что ИИ вот-вот развяжет новую мировую «энергетическую войну».
Читайте также:5 женщин, которые меняют индустрию ИИ
Читайте также:Какой ИИ-генератор голоса сейчас используют все?
ИИ сталкивается с энергетическим узким местом
За последние 500 дней ChatGPT вызвал мировой рост спроса на большие модели ИИ и вычислительные мощности.
Крупнейшие мировые технологические гиганты, такие как Microsoft, Google, Meta и OpenAI, бросились скупать чипы для ИИ и даже занялись их производством; общий масштаб превышает несколько триллионов долларов.
По сути, ИИ сильно зависит от вычислительных технологий и обработки информации, что, в свою очередь, требует большого количества GPU-чипов, а также базовых ресурсов: электроэнергии, гидроэнергии, ветровой энергии и финансирования.
Ещё в 1961 году физик Рольф Ландауэр, работавший в IBM, опубликовал статью, в которой предложил то, что позже стало известно как «принцип Ландауэра».
Эта теория предполагает, что при необратимых изменениях информации, хранящейся в компьютере, в окружающую среду выделяется небольшое количество тепла; объём тепла зависит от температуры компьютера в этот момент: чем выше температура, тем больше выделяется тепла.
Принцип Ландауэрасвязывает информацию и энергию, точнее, со вторым законом термодинамики. Логически необратимые операции обработки информации приводят к аннигиляции информации, что увеличивает энтропию в физическом мире и, следовательно, требует энергии.
С момента своего появления этот принцип встречал значительный скептицизм. Однако примерно за последнее десятилетие «принцип Ландауэра» был подтверждён экспериментально.
В 2012 году исследование, опубликованное в Nature, впервые измерило крошечное количество тепла, выделяющегося при удалении одного «бита» данных. Последующие независимые эксперименты также подтвердили «принцип Ландауэра».
За последнее десятилетие современные электронные компьютеры при вычислениях потребляли в миллиарды раз больше энергии, чем теоретическое значение принципа Ландауэра. Учёные стремились найти более эффективные методы вычислений для снижения затрат.
Сегодня, с взрывным ростом больших моделей ИИ, потребность в вычислениях действительно огромна. Поэтому ИИ ограничен не только дефицитом чипов, но и нехваткой энергии.
Недавно на конференции «Bosch Connected World 2024» Маск также заявил, что чуть более года назад не хватало чипов, но в следующем году вы увидите дефицит электроэнергии, которая не сможет покрыть потребности всех чипов.
Ли Сюцюань, заместитель директора Центра искусственного интеллекта Китайского института научной и технической информации, также заявил: «В последние годы масштабы и количество больших моделей ИИ быстро растут, что ведёт к стремительному увеличению спроса на энергию. Хотя такие проблемы, как "дефицит электроэнергии", в ближайшей перспективе вряд ли возникнут быстро, экспоненциальный рост спроса на энергию с наступлением эпохи крупномасштабного интеллекта игнорировать нельзя».
Ключ к качеству больших моделей ИИ — данные, вычислительные мощности и лучшие специалисты, что обеспечивается круглосуточной работой десятков тысяч чипов.
Если точнее, рабочий процесс вычислительных мощностей моделей ИИ можно условно разделить на два этапа: обучение и инференс, и оба связаны с потреблением энергии.
На этапе обучения необходимо собрать и предварительно обработать большой объём текстовых данных
В последние годы масштабы и количество больших моделей ИИ быстро растут, что ведёт к стремительному увеличению спроса на энергию. Хотя такие проблемы, как «дефицит электроэнергии», в ближайшей перспективе вряд ли возникнут быстро, экспоненциальный рост спроса на энергию с наступлением эпохи крупномасштабного интеллекта игнорировать нельзя.
Ли Сюцюань, заместитель директора Центра искусственного интеллекта Китайского института научной и технической информации
На этапе обучения необходимо собрать и предварительно обработать большой объём текстовых данных в качестве входных данных. Затем параметры модели инициализируются в подходящей архитектуре, обрабатываются входные данные и предпринимаются попытки сгенерировать выходные данные. Наконец, параметры многократно корректируются с учётом разницы между полученным и ожидаемым результатом, пока производительность модели не перестанет заметно улучшаться.
От обучения GPT-2 с 1,5 миллиарда параметров до GPT-3 со 175 миллиардами параметров энергопотребление на обучение моделей OpenAI поражает. Согласно открытым данным, OpenAI расходует 128,7 кВт·ч на одно обучение, что эквивалентно 32 км пробега 3 000 Tesla одновременно.
По данным исследовательской компании New Street Research, только Google нужно около 400 000 серверов для ИИ, которые потребляют 62,4 ГВт·ч в день и 22,8 ТВт·ч в год.
На этапе инференса ИИ сначала загружает параметры обученной модели, предварительно обрабатывает текстовые данные, подлежащие обработке, а затем позволяет модели генерировать выходные данные на основе изученных языковых закономерностей. Google утверждает, что в период с 2019 по 2021 год 60 % энергопотребления, связанного с ИИ, приходилось на инференс.
По оценке Алекса де Вриса, ChatGPT потребляет более 500 000 кВт·ч в день, отвечая примерно на 200 миллионов запросов, что означает ежегодный счёт за электроэнергию в 200 миллионов юаней, что в 1,7 раза превышает среднесуточное потребление электроэнергии каждого американского домохозяйства.
В отчёте SemiAnalysis отмечается, что энергопотребление при поиске ответов с помощью больших моделей в десять раз выше, чем при обычном поиске по ключевым словам. На примереGoogle: обычный поиск Google использует 0,3 Вт·ч электроэнергии, а каждое взаимодействие с большими моделями — 3 Вт·ч. Если бы пользователи использовали инструменты ИИ для каждого поиска Google, потребовалось бы около 29,2 ТВт·ч электроэнергии в год, то есть около 79 миллионов кВт·ч в день. Этого достаточно, чтобы более 300 лет бесперебойно питать самое высокое здание в мире — Бурдж-Халифа в Дубае.
Кроме того, согласно отчёту Stanford Artificial Intelligence Index Report 2023, каждый поиск с помощью ИИ потребляет около 8,9 Вт·ч электроэнергии. По сравнению с обычным поиском Google, энергопотребление на один ИИ-поиск почти в 30 раз выше. Для модели, достигающей 176 миллиардов параметров, только этап обучения потребляет 433 000 кВт·ч, что эквивалентно годовому потреблению электроэнергии 117 американскими домохозяйствами.
Стоит отметить, что в рамках закона масштабирования (Scaling Law) по мере дальнейшего роста числа параметров производительность больших моделей также улучшается, и это сопровождается более высоким энергопотреблением.
Поэтому энергетический вопрос стал критическим «ярмом» для дальнейшего развития технологий ИИ.
Быстрая викторина
Сколько серверов нужно Google для ИИ?
A. 400 000
B. 300 000
C. 200 000
D. 100 000
Правильный ответ — в конце статьи.
До катастрофы пока далеко
Дженсен Хуанг, несмотря на свою обеспокоенность по поводу энергоснабжения, придерживается более оптимистичного взгляда: за последнее десятилетие вычислительные мощности ИИ выросли в миллион раз, но затраты, пространство или энергопотребление не увеличились в той же степени.
Согласно долгосрочному ежегодному прогнозу Управления энергетической информации США (EIA), годовой темп роста спроса на электроэнергию в США сейчас составляет менее 1 %. Однако Джон Кетчам, генеральный директор NextEra Energy, считает, что под влиянием технологий ИИ этот годовой темп роста ускорится примерно до 1,8 %.
В отчёте Boston Consulting Group показано, что в 2022 году электропотребление центров обработки данных составляло 2,5 % от общего потребления электроэнергии в США (около 130 тераватт-часов), а к 2030 году, как ожидается, удвоится до 7,5 % (около 390 тераватт-часов). Это эквивалентно потреблению электроэнергии примерно 40 миллионами американских домохозяйств, то есть трети всех домохозяйств США. Группа также прогнозирует, что на генеративный ИИ придётся не менее 1 % нового спроса на электроэнергию в США.
Это означает, что даже при значительном потреблении электроэнергии дата-центрами и ИИ, оно далеко от катастрофического.
Что касается затрат, в отчёте Международного агентства по возобновляемым источникам энергии отмечается, что за последнее десятилетие средняя стоимость электроэнергии от ветровых и солнечных проектов в мире снизилась в совокупности более чем на 60 % и 80 % соответственно. Отраслевые инсайдеры также отмечают: «Общая стоимость фотоэлектрической энергии сопоставима с тепловой, а в некоторых регионах ветровая энергия стоит в два раза дешевле тепловой».
Как мы справимся с предстоящим ростом спроса на энергию?
Согласно сводкам отраслевых экспертов приложения Titanium Media, есть два основных подхода к решению проблемы энергопотребления ИИ: первый — снизить энергопотребление за счёт оптимизации больших моделей или аппаратного обеспечения ИИ, а второй — найти новые источники энергии, такие как термоядерный синтез, ресурсы деления и т. д., чтобы удовлетворить энергетические потребности ИИ.
Что касается оптимизации оборудования, для крупномасштабных ИИ-моделей уровня триллиона параметров с высоким энергопотреблением можно снизить потребление энергии, сжимая размер и сложность токенов модели за счёт оптимизации алгоритмов и моделей. Одновременно компании могут продолжать разрабатывать и обновлять энергоэффективное аппаратное обеспечение для ИИ, например новейший NVIDIA B200, ИИ-ПК или ИИ-телефоны. Кроме того, оптимизация энергоэффективности дата-центров и повышение эффективности использования энергии также позволяют сократить потребление.
В ответ на это Бай Вэньси, вице-президент China Enterprise Capital Alliance, заявил: «В будущем необходимо проводить технологические инновации и модернизацию оборудования, чтобы ещё больше повысить эффективность выработки электроэнергии, увеличить пропускную способность и стабильность сетевой передачи, оптимизировать распределение энергоресурсов, повысить гибкость энергоснабжения, развивать распределённые энергосистемы и сокращать потери при передаче энергии, чтобы справиться с вызовами спроса на энергию, вызванными развитием вычислительных мощностей».
Цюй Хайфэн, заместитель председателя экспертного комитета рабочей группы по дата-центрам в Китае (CDCC), считает, что профильным отраслям следует сосредоточиться на повышении энергоэффективности дата-центров, а не на сокращении их масштабов. Дата-центрам не нужно снижать потребление энергии, скорее нужно повышать качество этого потребления.
Что касается развития термоядерной энергетики, благодаря обилию сырьевых ресурсов, большой энергоотдаче, безопасности, чистоте и экологичности управляемый термоядерный синтез способен в значительной степени соответствовать требованиям к идеальному источнику энергии будущего.
Сейчас существует три основных источника термоядерной энергии: космическая энергия, например солнечный свет и тепло; взрыв водородной бомбы (неуправляемый термоядерный синтез); искусственное солнце (устройство управляемого термоядерного синтеза).
По статистике, в мире более 50 стран ведут исследования и строительство более 140 термоядерных установок, и уже достигнут ряд технологических прорывов. МАГАТЭ прогнозирует, что первая в мире термоядерная электростанция будет построена и введена в эксплуатацию к 2050 году.
Такая термоядерная генерация значительно ослабит мировой энергетический дефицит, вызванный спросом больших моделей ИИ.
В апреле 2023 года Альтман предпринял упреждающие шаги, лично вложив 375 миллионов долларов в термоядерный стартапHelion Energyи став президентом компании. Кроме того, в июле прошлого года Альтман объединил свою инвестиционную компанию AltC с термоядерным стартапомOklo, в результате чего было проведено IPO с оценкой около 850 миллионов долларов; недавняя рыночная капитализация AltC превысила 40 миллиардов долларов.
Помимо крупных инвестиций Альтмана в термоядерные компании, такие технологические гиганты, как Amazon и Google, напрямую покупают чистую энергию.
По данным Bloomberg, только в 2023 году Amazon купила 8,8 гигаватта (ГВт) чистой энергии, став крупнейшим в мире покупателем чистой энергии четвёртый год подряд. За ней следуют Meta (3 ГВт) и Google (1 ГВт).
Amazon заявляет, что более 90 % электроэнергии для её дата-центров поступает из чистых источников, и планирует к 2025 году достичь 100 % использования зелёной энергии.
Конкуренция между Китаем и США
На примере США видно: рост таких отраслей, как чистая энергетика, ИИ, дата-центры, электромобили и майнинг, возродил застойный спрос на электроэнергию в стране. Однако даже американская энергосеть, которую называют «величайшей машиной» мира, похоже, не справляется с этим внезапным изменением.
Аналитики отмечают, что 70 % оборудования подключения и передачи в американской сети устарело, а в некоторых районах недостаточно линий электропередачи. Поэтому энергосети США требуют масштабной модернизации; если не принять меры, к 2030 году страну ждёт непреодолимый дефицит внутреннего энергоснабжения.
По сравнению с США Китай более оптимистичен в отношении своего энергоспроса. В настоящее время китайская ветровая и фотоэлектрическая продукция экспортируется более чем в 200 стран и регионов, а совокупный экспорт превысил 33,4 миллиарда и 245,3 миллиарда долларов соответственно.
По мере взрывного роста ИИ конкуренция между Китаем и США в ИИ-индустрии перешла от соперничества в технологиях больших моделей к многомерной борьбе за вычислительные мощности, энергию, кадры и другие ресурсы.
С возможным развёртыванием термоядерной энергетики к 2050 году человечество надеется решить сложную проблему энергопотребления ИИ и вступить в эпоху неограниченного производства энергии.
Правильный ответ — A.