Por que a IA consome tanta eletricidade?

• O crescimento exponencial da IA, exemplificado pelo ChatGPT, está projetado para levar a um aumento significativo na demanda de energia, podendo consumir até 25% da eletricidade dos EUA até 2030, gerando preocupações com uma crise energética iminente e desencadeando uma “guerra de energia” global.
• Para lidar com o aumento do consumo de energia da IA, estratégias como a otimização de grandes modelos e hardware de IA para reduzir o consumo de energia, bem como investimentos em novas fontes de energia como fusão nuclear, estão sendo buscadas por especialistas da indústria e grandes empresas de tecnologia como Amazon, Google e Altman.
• Apesar dos desafios impostos pelo consumo de energia da IA, permanece o otimismo quanto à capacidade de atender à demanda, com avanços contínuos em energia renovável, atualizações de infraestrutura e colaboração internacional visando garantir um futuro de energia sustentável em meio à revolução da IA.

À medida que oChatGPTdesencadeia uma nova onda de febre de inteligência artificial (IA), a questão subjacente do consumo de energia continua a atrair atenção.

Em 10 de abril deste ano,Rene Haas, CEO da gigante de chips Arm, declarou publicamente que grandes modelos de IA como o ChatGPT exigem poder computacional significativo. Estima-se que até 2030, os centros de dados de IA consumirão 20% a 25% da demanda de eletricidade nos Estados Unidos, um aumento significativo em relação aos atuais 4%.

Dados públicos mostram que o ChatGPT atualmente processa mais de 200 milhões de solicitações por dia, consumindo até 500.000 quilowatts-hora de eletricidade diariamente. Isso se traduz em uma conta de eletricidade anual de 200 milhões de RMB apenas para o ChatGPT.

Isso significa que o consumo diário de eletricidade do ChatGPT é mais de 17.000 vezes o de uma residência comum. (A eletricidade comercial nos Estados Unidos está atualmente em torno de $0,147 por quilowatt-hora, equivalente a 1,06 yuan, ou 530.000 yuan por dia)

Segundo Alex de Vries, chefe de uma empresa de consultoria holandesa, espera-se que a indústria de IA consuma entre 850 bilhões e 1,34 trilhão de quilowatts-hora de eletricidade por ano até 2027, equivalente ao consumo total anual de eletricidade de um país europeu como Suécia ou Países Baixos.

Musk prevê que o déficit de energia pode ocorrer já em 2025, afirmando: “No próximo ano vocês verão, não teremos energia suficiente para rodar todos os chips”.

O CEO da OpenAI,Sam Altman, também antecipa uma crise energética na indústria de IA, sugerindo que o desenvolvimento tecnológico futuro da IA dependerá fortemente de energia, e as pessoas precisarão de mais produtos fotovoltaicos e de armazenamento de energia.

Tudo isso indica que a IA está à beira de desencadear uma nova “guerra de energia” global.

Leia também:5 mulheres que estão mudando a indústria de IA

Leia também:Qual gerador de voz por IA todo mundo está usando?

IA atinge um gargalo energético

Nos últimos 500 dias, o ChatGPT desencadeou um aumento global na demanda por grandes modelos de IA e poder computacional.

Grandes gigantes de tecnologia global como Microsoft, Google, Meta e OpenAI têm corrido para adquirir chips de IA, até mesmo se aventurando na fabricação de chips, com uma escala total excedendo dezenas de trilhões de dólares.

Em essência, a IA depende fortemente da tecnologia de computadores e do processamento de informações, que por sua vez requer um número significativo de chips GPU, bem como recursos subjacentes como eletricidade, energia hidrelétrica, energia eólica e financiamento.

Já em 1961, o físico Rolf Landauer, trabalhando na IBM, publicou um artigo propondo o que mais tarde ficou conhecido como “Princípio de Landauer”.

Essa teoria sugere que quando a informação armazenada em um computador sofre mudanças irreversíveis, ela emite uma pequena quantidade de calor para o ambiente ao redor, com a quantidade de calor emitida dependendo da temperatura do computador no momento – quanto maior a temperatura, mais calor é emitido.

O Princípio de Landauervincula informação e energia, especificamente à segunda lei da termodinâmica. Porque operações de processamento de informação logicamente irreversíveis resultam na aniquilação da informação, isso leva a um aumento de entropia no mundo físico, consumindo assim energia.

Desde sua proposta, esse princípio enfrentou considerável ceticismo. No entanto, na última década ou mais, o “Princípio de Landauer” foi verificado experimentalmente.

Em 2012, um estudo publicado na Nature mediu pela primeira vez a quantidade minúscula de calor liberada quando um “bit” de dados é deletado. Experimentos independentes subsequentes também confirmaram o “Princípio de Landauer”.

Na última década, os computadores eletrônicos modernos consumiram energia em computação bilhões de vezes maior do que o valor teórico do princípio de Landauer. Os cientistas têm se esforçado para encontrar métodos de computação mais eficientes para reduzir custos.

Hoje, com a explosão dos grandes modelos de IA, há de fato uma necessidade significativa de computação. Portanto, a IA não está apenas limitada pela escassez de chips, mas também pela escassez de energia.

Recentemente, na conferência ‘Bosch Connected World 2024‘, Musk também afirmou que há mais de um ano, a escassez era de chips, mas no próximo ano vocês verão uma escassez de eletricidade, incapaz de atender à demanda por todos os chips.

Li Xiuquan, Diretor Adjunto do Centro de Inteligência Artificial do Instituto de Informação Científica e Tecnológica da China, também declarou: “nos últimos anos, a escala e a quantidade de grandes modelos de IA têm crescido rapidamente, levando a um rápido aumento na demanda de energia. Embora problemas como ‘escassez de energia’ sejam improváveis de surgir rapidamente no curto prazo, o aumento exponencial na demanda de energia com o advento da era da inteligência em larga escala não pode ser ignorado”.

A chave para a qualidade dos grandes modelos de IA está nos dados, poder computacional e talentos de ponta, apoiados pela operação contínua de dezenas de milhares de chips dia e noite.

Especificamente, o processo de trabalho do poder computacional do modelo de IA pode ser dividido aproximadamente em duas etapas: treinamento e inferência, e o consumo de energia também está envolvido.

Uma grande quantidade de dados de texto precisa ser coletada e pré-processada durante o treinamento

Nos últimos anos, a escala e a quantidade de grandes modelos de IA têm crescido rapidamente, levando a um rápido aumento na demanda de energia. Embora problemas como ‘escassez de energia’ sejam improváveis de surgir rapidamente no curto prazo, o aumento exponencial na demanda de energia com o advento da era da inteligência em larga escala não pode ser ignorado.

Li Xiuquan, Diretor Adjunto do Centro de Inteligência Artificial do Instituto de Informação Científica e Tecnológica da China

Durante a fase de treinamento, uma grande quantidade de dados de texto precisa ser coletada e pré-processada como dados de entrada. Em seguida, os parâmetros do modelo são inicializados em uma arquitetura de modelo apropriada, os dados de entrada são processados e são feitas tentativas de gerar saída. Finalmente, os parâmetros são ajustados repetidamente com base na diferença entre a saída e a saída esperada até que o desempenho do modelo não melhore mais significativamente.

Do treinamento do GPT-2 com 1,5 bilhão de parâmetros ao treinamento do GPT-3 com 175 bilhões de parâmetros, o consumo de energia por trás dos modelos da OpenAI é surpreendente. Informações públicas indicam que a OpenAI consome 128,7 kWh por treinamento, equivalente a 32 km percorridos por 3000 Teslas simultaneamente.

De acordo com a empresa de pesquisa New Street Research, apenas o Google requer cerca de 400.000 servidores para IA, consumindo 62,4 GWh por dia e 22,8 TWh por ano.

Durante a fase de inferência, a IA primeiro carrega os parâmetros do modelo treinado, pré-processa os dados de texto que precisam ser inferidos e, em seguida, permite que o modelo gere saída com base nos padrões de linguagem aprendidos. O Google afirma que de 2019 a 2021, 60% do consumo de energia relacionado à IA vem da inferência.

Segundo a estimativa de Alex de Vries, o ChatGPT consome mais de 500.000 kWh por dia para responder a aproximadamente 200 milhões de solicitações, resultando em uma conta de eletricidade anual de 200 milhões de RMB, que é 1,7 vezes maior que o consumo médio diário de eletricidade de cada residência americana.

Um relatório da SemiAnalysis afirma que o consumo de energia para busca de problemas usando grandes modelos é dez vezes o de buscas convencionais por palavras-chave. Tomando oGooglecomo exemplo, as buscas padrão do Google usam 0,3Wh de energia, enquanto cada interação com grandes modelos consome 3Wh. Se os usuários usassem ferramentas de IA para cada busca no Google, seriam necessários aproximadamente 29,2 TWh de eletricidade por ano, ou cerca de 79 milhões de kWh por dia. Isso é equivalente a fornecer energia contínua ao maior arranha-céu do mundo, o Burj Khalifa em Dubai, por mais de 300 anos.

Além disso, de acordo com o Relatório do Índice de Inteligência Artificial de Stanford 2023, cada busca por IA consome aproximadamente 8,9 Wh de eletricidade. Comparado às buscas regulares do Google, o consumo de energia por busca de IA é quase 30 vezes maior. Para um modelo com até 176 bilhões de parâmetros, apenas a fase de treinamento consome 433.000 kWh, equivalente ao consumo anual de eletricidade de 117 residências americanas.

Vale notar que dentro da Lei de Escala, à medida que a escala dos parâmetros continua aumentando, o desempenho dos grandes modelos também melhora, acompanhado por maior consumo de energia.

Portanto, a questão energética tornou-se um “grilhão” crítico para o desenvolvimento contínuo da tecnologia de IA.

Quiz rápido

Quantos servidores o Google precisa para IA?

A. 400.000

B. 300.000

C. 200.000

D. 100.000

A resposta correta está no final do artigo.

Ainda está longe de ser catastrófico

Jensen Huang, apesar de suas preocupações com o fornecimento de energia, oferece uma visão mais otimista: na última década, a computação de IA aumentou um milhão de vezes, mas seus custos, espaço ou consumo de energia não cresceram na mesma magnitude.

De acordo com a perspectiva anual de longo prazo da Administração de Informação de Energia dos EUA (EIA), a taxa de crescimento anual da demanda de eletricidade nos EUA é atualmente inferior a 1%. No entanto, John Ketchum, CEO da NextEra Energy, estima que sob a influência da tecnologia de IA, essa taxa de crescimento anual da demanda de eletricidade acelerará para cerca de 1,8%.

Um relatório do Boston Consulting Group mostra que em 2022, o consumo de eletricidade dos centros de dados representou 2,5% do consumo total de eletricidade dos EUA (cerca de 130 terawatts-hora), e espera-se que dobre até 2030 para atingir 7,5% (cerca de 390 terawatts-hora). Isso é equivalente ao consumo de eletricidade de cerca de 40 milhões de residências americanas, ou um terço de todas as residências americanas. O grupo também prevê que a IA gerativa representará pelo menos 1% da nova demanda de eletricidade nos Estados Unidos.

Isso significa que, embora o consumo de eletricidade dos centros de dados e da IA seja significativo, está longe de ser catastrófico.

Em termos de custo, um relatório da Agência Internacional de Energia Renovável apontou que na última década, o custo médio da eletricidade para projetos globais de energia eólica e solar diminuiu cumulativamente em mais de 60% e 80%, respectivamente. Especialistas do setor também mencionaram: “O custo abrangente da energia fotovoltaica é semelhante ao da energia térmica, enquanto a energia eólica custa metade em algumas regiões em comparação com a energia térmica”.

Como lidaremos com o aumento iminente na demanda de energia?

De acordo com resumos de especialistas do setor pelo Titanium Media App, existem duas soluções principais para lidar com o consumo de energia da IA: uma é reduzir o consumo de energia através da otimização de grandes modelos ou hardware de IA, e a outra é encontrar novas fontes de energia, como fusão nuclear, recursos de fissão etc., para atender às demandas energéticas da IA.

Em termos de otimização de hardware, para grandes modelos de IA de nível de trilhão com alto consumo de energia, o consumo pode ser reduzido comprimindo o tamanho e complexidade dos tokens do modelo através de otimização de algoritmos e modelos. Ao mesmo tempo, as empresas podem continuar desenvolvendo e atualizando hardware de IA com menor consumo de energia, como o mais recente NVIDIA B200, PCs com IA ou terminais de telefone com IA. Além disso, otimizando a eficiência energética dos centros de dados e melhorando a eficiência do uso de energia, o consumo pode ser reduzido.

Em resposta a isso, Bai Wenxi, Vice-Presidente da Aliança de Capital Empresarial da China, declarou: “no futuro, há necessidade de inovação tecnológica e atualização de equipamentos para melhorar ainda mais a eficiência da geração de energia, aumentar a capacidade e estabilidade da transmissão da rede, otimizar a alocação de recursos energéticos, aumentar a flexibilidade do fornecimento de energia, promover sistemas de energia distribuída e reduzir as perdas de transmissão de energia para enfrentar os desafios da demanda energética trazidos pelo desenvolvimento do poder computacional”.

Qu Haifeng, Diretor Adjunto do Comitê de Especialistas do Grupo de Trabalho de Centros de Dados da China (CDCC), acredita que as indústrias relevantes devem se concentrar em melhorar a eficiência energética dos centros de dados em vez de suprimir sua escala. Os centros de dados não precisam reduzir o consumo de energia, mas sim melhorar a qualidade do consumo de energia.

Quanto ao desenvolvimento da energia de fusão nuclear, devido aos seus recursos abundantes de matéria-prima, grande liberação de energia, segurança, limpeza e vantagens ambientais, a fusão nuclear controlada pode basicamente atender a vários requisitos para a fonte de energia final ideal no futuro.

Atualmente, existem três fontes principais de energia de fusão: energia cósmica, como luz e calor solar; explosão de bomba de hidrogênio (fusão nuclear não controlada); sol artificial (dispositivo de energia de fusão nuclear controlada).

Segundo estatísticas, atualmente existem mais de 50 países no mundo realizando pesquisas e construção de mais de 140 dispositivos de fusão, e uma série de avanços tecnológicos foram feitos. A AIEA espera que a primeira usina de fusão do mundo seja construída e entre em operação até 2050.

Essa geração de energia por fusão aliviará enormemente a escassez global de energia causada pela demanda por grandes modelos de IA.

Em abril de 2023, Altman tomou uma ação preventiva investindo pessoalmente $375 milhões na empresa iniciante de fusãoHelion Energye atuou como presidente da empresa. Além disso, Altman fundiu a AltC, sua empresa de investimentos, com a empresa iniciante de fusãoOkloem julho passado, garantindo um IPO avaliado em aproximadamente $850 milhões, com a mais recente capitalização de mercado da AltC excedendo $40 bilhões.

Além do pesado investimento de Altman em empresas de fusão, gigantes da tecnologia como Amazon e Google estão comprando diretamente energia limpa.

De acordo com dados da Bloomberg, apenas em 2023, a Amazon comprou 8,8 gigawatts (GW) de energia limpa, marcando o quarto ano consecutivo como a maior compradora corporativa de energia limpa do mundo. Meta (3 GW) e Google (1 GW) seguem de perto.

A Amazon afirma que mais de 90% da eletricidade de seus centros de dados provém de geração de energia limpa e espera atingir 100% de uso de energia verde até 2025.

A competição entre China e Estados Unidos

De fato, tomando os Estados Unidos como exemplo, o crescimento de múltiplas indústrias como energia limpa, IA, centros de dados, veículos elétricos e mineração reviveu a estagnada demanda de eletricidade dos EUA. No entanto, mesmo aclamada como a ‘maior máquina’ do mundo, a rede elétrica dos EUA parece incapaz de lidar com essa mudança repentina.

Analistas apontam que 70% das instalações de acesso e transmissão da rede dos EUA estão envelhecendo, e algumas áreas têm evidências públicas limitadas de linhas de transmissão da rede. Portanto, a rede elétrica dos EUA precisa de atualizações massivas, e se nenhuma ação for tomada, os Estados Unidos enfrentarão uma lacuna insuperável de oferta doméstica até 2030.

Em comparação com os Estados Unidos, a China está mais otimista quanto à sua demanda de energia. Atualmente, os produtos de energia eólica e fotovoltaica da China foram exportados para mais de 200 países e regiões, com exportações acumuladas excedendo $33,4 bilhões e $245,3 bilhões, respectivamente.

À medida que a IA experimenta um crescimento explosivo, a competição entre China e Estados Unidos na indústria de IA evoluiu de uma competição em tecnologia de grandes modelos para uma batalha multifacetada envolvendo poder computacional, energia, mão de obra e mais.

Com a potencial implantação da energia de fusão nuclear até 2050, a humanidade espera encerrar o problema desafiador do consumo de energia da IA e entrar em uma era de geração ilimitada de energia.

A resposta correta é A.