Warum verbraucht KI so viel Strom?

• Das exponentielle Wachstum der KI, veranschaulicht durch ChatGPT, wird voraussichtlich zu einem erheblichen Anstieg des Energiebedarfs führen, der bis 2030 bis zu 25 % des amerikanischen Stroms verbrauchen könnte, was Bedenken hinsichtlich einer bevorstehenden Energiekrise und eines globalen „Energiekriegs“ aufkommen lässt.
• Um den wachsenden Energieverbrauch der KI zu bewältigen, verfolgen Branchenexperten und große Technologieakteure wie Amazon, Google und Altman Strategien wie die Optimierung großer Modelle und KI-Hardware zur Reduzierung des Energieverbrauchs sowie Investitionen in neue Energiequellen wie die Kernfusion.
• Trotz der Herausforderungen durch den Energieverbrauch der KI bleibt der Optimismus bestehen, dass die Nachfrage dank kontinuierlicher Fortschritte bei erneuerbaren Energien, Infrastruktur-Upgrades und internationaler Zusammenarbeit gedeckt werden kann, um eine nachhaltige Energiezukunft im Zentrum der KI-Revolution zu gewährleisten.

Während ChatGPT eine neue Welle der Begeisterung für künstliche Intelligenz (KI) auslöst, bleibt die zugrunde liegende Frage des Energieverbrauchs im Fokus.

Am 10. April dieses Jahres erklärteRene Haas, CEO des Chipgiganten Arm, öffentlich, dass große KI-Modelle wie ChatGPT eine beträchtliche Rechenleistung benötigen. Schätzungen zufolge werden KI-Rechenzentren bis 2030 20 % bis 25 % des US-Strombedarfs verbrauchen, ein deutlicher Anstieg gegenüber den derzeitigen 4 %.

Öffentliche Daten zeigen, dass ChatGPT derzeit über 200 Millionen Anfragen pro Tag verarbeitet und dabei bis zu 500.000 Kilowattstunden Strom pro Tag verbraucht. Das entspricht einer jährlichen Stromrechnung von 200 Millionen Yuan allein für ChatGPT.

Das bedeutet, dass der tägliche Stromverbrauch von ChatGPT mehr als 17.000 Mal höher ist als der eines durchschnittlichen Haushalts. (Der gewerbliche Strompreis in den USA liegt derzeit bei etwa 0,147 USD pro Kilowattstunde, was 1,06 Yuan oder 530.000 Yuan pro Tag entspricht.)

LautAlex de Vries, Leiter einer niederländischen Beratungsfirma, wird die KI-Industrie bis 2027 zwischen 850 und 1.340 Milliarden Kilowattstunden Strom pro Jahr verbrauchen, was dem jährlichen Gesamtstromverbrauch eines europäischen Landes wie Schweden oder den Niederlanden entspricht.

Musk sagt voraus, dass es bereits 2025 zu einer Stromknappheit kommen könnte, und erklärt: „Nächstes Jahr werden Sie sehen, dass wir nicht genug Strom haben werden, um alle Chips zu betreiben.“

OpenAI-CEOSam Altmanrechnet ebenfalls mit einer Energiekrise in der KI-Branche und deutet an, dass die zukünftige technologische Entwicklung der KI stark von Energie abhängen wird und die Menschen mehr Photovoltaikprodukte und Energiespeicher benötigen werden.

All dies deutet darauf hin, dass die KI kurz davor steht, einen neuen globalen „Energiekrieg“ auszulösen.

Lesen Sie auch:5 Frauen, die die KI-Branche verändern

Lesen Sie auch:Welchen KI-Stimmengenerator verwendet jeder?

KI stößt auf Energieengpass

In den letzten 500 Tagen hat ChatGPT einen weltweiten Anstieg der Nachfrage nach großen KI-Modellen und Rechenleistung ausgelöst.

Die großen globalen Technologiegiganten wie Microsoft, Google, Meta und OpenAI haben sich darum gerissen, KI-Chips zu erwerben, und sind sogar in die Chipfertigung eingestiegen, mit einem Gesamtumfang von mehreren Billionen Dollar.

Im Wesentlichen stützt sich KI stark auf Computertechnologie und Informationsverarbeitung, was wiederum eine große Anzahl von GPU-Chips sowie grundlegende Ressourcen wie Strom, Wasserkraft, Windenergie und Finanzierung erfordert.

Bereits 1961 veröffentlichte der bei IBM tätige Physiker Rolf Landauer einen Artikel, in dem er das vorschlug, was später als „Landauersches Prinzip“ bekannt wurde.

Diese Theorie besagt, dass bei irreversiblen Änderungen der in einem Computer gespeicherten Informationen eine geringe Wärmemenge an die Umgebung abgegeben wird, wobei die abgegebene Wärmemenge von der Temperatur des Computers zu diesem Zeitpunkt abhängt – je höher die Temperatur, desto größer die abgegebene Wärme.

Das Landauersche Prinzip verbindet Information und Energie, genauer gesagt mit dem zweiten Hauptsatz der Thermodynamik. Da logisch irreversible Informationsverarbeitungsoperationen zur Vernichtung von Information führen, was zu einer Zunahme der Entropie in der physischen Welt führt, wird dabei Energie verbraucht.

Seit seiner Aufstellung stieß dieses Prinzip auf erhebliche Skepsis. In den letzten etwa zehn Jahren wurde das „Landauersche Prinzip“ jedoch experimentell bestätigt.

Im Jahr 2012 maß eine in Nature veröffentlichte Studie erstmals die winzige Wärmemenge, die freigesetzt wird, wenn ein „Bit“ Daten gelöscht wird. Spätere unabhängige Experimente bestätigten ebenfalls das „Landauersche Prinzip“.

Im letzten Jahrzehnt haben moderne elektronische Computer beim Rechnen milliardenfach mehr Energie verbraucht als der theoretische Wert des Landauerschen Prinzips. Wissenschaftler haben sich bemüht, effizientere Berechnungsmethoden zu finden, um die Kosten zu senken.

Heute, mit der Explosion großer KI-Modelle, besteht ein großer Bedarf an Rechenleistung. Daher ist KI nicht nur durch die Chipknappheit, sondern auch durch Energieengpässe eingeschränkt.

Kürzlich erklärte Musk auf der Konferenz „Bosch Connected World 2024“ ebenfalls, dass vor etwas mehr als einem Jahr die Knappheit bei Chips lag, aber nächstes Jahr werde es eine Stromknappheit geben, die nicht in der Lage sei, die Nachfrage aller Chips zu decken.

Li Xiuquan, stellvertretender Direktor des Zentrums für Künstliche Intelligenz des Chinesischen Instituts für Wissenschafts- und Technologieinformation, erklärte ebenfalls: „In den letzten Jahren haben Umfang und Anzahl großer KI-Modelle rapide zugenommen, was zu einem schnellen Anstieg des Energiebedarfs geführt hat. Obwohl Probleme wie ‚Stromknappheit‘ kurzfristig wahrscheinlich nicht auftreten werden, kann der exponentielle Anstieg des Energiebedarfs mit dem Beginn des Zeitalters der groß angelegten Intelligenz nicht ignoriert werden.“

Der Schlüssel zur Qualität großer KI-Modelle liegt in Daten, Rechenleistung und den besten Talenten, unterstützt durch den kontinuierlichen Betrieb von Zehntausenden von Chips Tag und Nacht.

Genauer gesagt lässt sich der Arbeitsprozess der Rechenleistung von KI-Modellen grob in zwei Phasen unterteilen: Training und Inferenz, wobei ebenfalls Energie verbraucht wird.

Während des Trainings müssen große Mengen an Textdaten gesammelt und vorverarbeitet werden

In den letzten Jahren haben Umfang und Anzahl großer KI-Modelle rapide zugenommen, was zu einem schnellen Anstieg des Energiebedarfs geführt hat. Obwohl Probleme wie „Stromknappheit“ kurzfristig wahrscheinlich nicht auftreten werden, kann der exponentielle Anstieg des Energiebedarfs mit dem Beginn des Zeitalters der groß angelegten Intelligenz nicht ignoriert werden.

Li Xiuquan, stellvertretender Direktor des Zentrums für Künstliche Intelligenz des Chinesischen Instituts für Wissenschafts- und Technologieinformation

Während der Trainingsphase müssen große Mengen an Textdaten als Eingabedaten gesammelt und vorverarbeitet werden. Anschließend werden die Modellparameter in einer geeigneten Modellarchitektur initialisiert, die Eingabedaten verarbeitet und es wird versucht, eine Ausgabe zu generieren. Schließlich werden die Parameter wiederholt basierend auf der Differenz zwischen Ausgabe und erwarteter Ausgabe angepasst, bis sich die Leistung des Modells nicht mehr signifikant verbessert.

Vom Training von GPT-2 mit 1,5 Milliarden Parametern bis zu GPT-3 mit 175 Milliarden Parametern ist der Trainingsenergieverbrauch hinter den OpenAI-Modellen atemberaubend. Öffentliche Informationen zeigen, dass OpenAI pro Training 128,7 kWh verbraucht, was 32 km entspricht, die von 3.000 Tesla gleichzeitig zurückgelegt werden.

Laut dem Forschungsunternehmen New Street Research benötigt Google allein etwa 400.000 Server für KI, die 62,4 GWh pro Tag und 22,8 TWh pro Jahr verbrauchen.

Während der Inferenzphase lädt die KI zunächst die Parameter des trainierten Modells, verarbeitet die zu inferierenden Textdaten vor und lässt das Modell dann eine Ausgabe basierend auf den erlernten Sprachmustern generieren. Google gibt an, dass zwischen 2019 und 2021 60 % des KI-bezogenen Energieverbrauchs auf die Inferenz entfielen.

Nach Schätzung von Alex de Vries verbraucht ChatGPT über 500.000 kWh pro Tag, um etwa 200 Millionen Anfragen zu beantworten, was einer jährlichen Stromrechnung von 200 Millionen Yuan entspricht, dem 1,7-fachen des durchschnittlichen täglichen Stromverbrauchs jedes amerikanischen Haushalts.

Ein Bericht von SemiAnalysis zeigt, dass der Energieverbrauch für die Problemsuche mit großen Modellen zehnmal höher ist als bei herkömmlichen Stichwortsuchen. Am Beispiel von Google: Standard-Google-Suchen verbrauchen 0,3 Wh Strom, während jede Interaktion mit großen Modellen 3 Wh verbraucht. Wenn Nutzer bei jeder Google-Suche KI-Tools verwenden würden, wären etwa 29,2 TWh Strom pro Jahr erforderlich, das sind etwa 79 Millionen kWh pro Tag. Das entspricht einer kontinuierlichen Energieversorgung des größten Wolkenkratzers der Welt, des Burj Khalifa in Dubai, für mehr als 300 Jahre.

Darüber hinaus verbraucht laut dem Stanford Artificial Intelligence Index Report 2023 jede KI-Suche etwa 8,9 Wh Strom. Im Vergleich zu normalen Google-Suchen ist der Energieverbrauch pro KI-Suche fast 30-mal höher. Für ein Modell mit bis zu 176 Milliarden Parametern verbraucht allein die Trainingsphase 433.000 kWh, was dem jährlichen Stromverbrauch von 117 amerikanischen Haushalten entspricht.

Es ist zu beachten, dass im Rahmen des Skalierungsgesetzes (Scaling Law) mit zunehmender Parametergröße auch die Leistung großer Modelle steigt, begleitet von einem höheren Energieverbrauch.

Daher ist die Energiefrage zu einem kritischen „Hemmschuh“ für die kontinuierliche Entwicklung der KI-Technologie geworden.

Schnellquiz

Wie viele Server benötigt Google für KI?

A. 400.000

B. 300.000

C. 200.000

D. 100.000

Die richtige Antwort finden Sie am Ende des Artikels.

Das ist noch lange nicht katastrophal

Jensen Huangbietet trotz seiner Bedenken hinsichtlich der Energieversorgung eine optimistischere Sichtweise: In den letzten zehn Jahren hat sich die KI-Berechnung um das Millionenfache vervielfacht, aber ihre Kosten, der Platzbedarf oder der Energieverbrauch sind nicht im gleichen Maße gestiegen.

Laut dem langfristigen Jahresausblick der US-Energieinformationsbehörde (EIA) liegt die jährliche Wachstumsrate des Strombedarfs in den USA derzeit unter 1 %. John Ketchum, CEO von NextEra Energy, schätzt jedoch, dass diese jährliche Wachstumsrate des Strombedarfs unter dem Einfluss der KI-Technologie auf etwa 1,8 % beschleunigt wird.

Ein Bericht der Boston Consulting Group zeigt, dass der Stromverbrauch von Rechenzentren im Jahr 2022 2,5 % des gesamten US-Stromverbrauchs ausmachte (etwa 130 Terawattstunden) und sich bis 2030 voraussichtlich auf 7,5 % (etwa 390 Terawattstunden) verdoppeln wird. Das entspricht dem Stromverbrauch von etwa 40 Millionen US-Haushalten, also einem Drittel aller US-Haushalte. Die Gruppe prognostiziert außerdem, dass generative KI mindestens 1 % des neuen US-Strombedarfs ausmachen wird.

Das bedeutet, dass der Stromverbrauch von Rechenzentren und KI zwar erheblich ist, aber noch lange nicht katastrophal.

Was die Kosten betrifft, so hat ein Bericht der Internationalen Agentur für Erneuerbare Energien hervorgehoben, dass die durchschnittlichen Stromkosten von Wind- und Solarprojekten weltweit in den letzten zehn Jahren kumulativ um über 60 % bzw. 80 % gesunken sind. Brancheninsider erwähnten ebenfalls: „Die Gesamtkosten der Photovoltaik ähneln denen der thermischen Energie, während Windenergie in einigen Regionen nur halb so teuer ist wie thermische Energie.“

Wie werden wir den bevorstehenden Anstieg des Energiebedarfs bewältigen?

Laut Zusammenfassungen von Branchenexperten durch die Titanium Media App gibt es zwei Hauptlösungen zur Bewältigung des Energieverbrauchs von KI: Die eine besteht darin, den Energieverbrauch durch Optimierung großer Modelle oder KI-Hardware zu senken, und die andere darin, neue Energiequellen wie Kernfusion, Spaltungsressourcen usw. zu finden, um den Energiebedarf der KI zu decken.

In Bezug auf Hardware-Optimierung kann bei großen KI-Modellen auf Billionen-Ebene mit hohem Energieverbrauch der Energieverbrauch gesenkt werden, indem die Größe und Komplexität der Modell-Token durch Algorithmus- und Modelloptimierung komprimiert werden. Gleichzeitig können Unternehmen weiterhin stromsparende KI-Hardware entwickeln und aktualisieren, wie die neueste NVIDIA B200, KI-PCs oder KI-Telefonendgeräte. Darüber hinaus kann der Energieverbrauch durch Optimierung der Energieeffizienz von Rechenzentren und Verbesserung der Energieauslastung gesenkt werden.

Bai Wenxi, Vizepräsident der China Enterprise Capital Alliance, erklärte dazu: „In Zukunft sind technologische Innovationen und Geräte-Upgrades erforderlich, um die Effizienz der Stromerzeugung weiter zu verbessern, die Übertragungskapazität und -stabilität des Netzes zu erhöhen, die Verteilung der Energieressourcen zu optimieren, die Flexibilität der Stromversorgung zu stärken, dezentrale Energiesysteme zu fördern und Energieübertragungsverluste zu reduzieren, um den Herausforderungen des Energiebedarfs durch die Entwicklung der Rechenleistung zu begegnen.“

Qu Haifeng, stellvertretender Direktor des Expertenausschusses der Arbeitsgruppe für Rechenzentren in China (CDCC), ist der Ansicht, dass sich die betroffenen Branchen auf die Verbesserung der Energieeffizienz von Rechenzentren konzentrieren sollten, anstatt deren Umfang zu reduzieren. Rechenzentren müssen ihren Energieverbrauch nicht senken, sondern vielmehr die Qualität ihres Energieverbrauchs verbessern.

Was die Entwicklung der Kernfusionsenergie betrifft, so kann die kontrollierte Kernfusion aufgrund ihrer reichlichen Rohstoffressourcen, ihrer bedeutenden Energiefreisetzung, ihrer Sicherheit, Sauberkeit und Umweltvorteile im Wesentlichen die verschiedenen Anforderungen einer idealen ultimativen Energiequelle für die Zukunft erfüllen.

Derzeit gibt es drei Hauptquellen für Fusionsenergie: kosmische Energie wie Sonnenlicht und -wärme; die Explosion von Wasserstoffbomben (unkontrollierte Kernfusion); die künstliche Sonne (Vorrichtung zur kontrollierten Kernfusion).

Statistiken zufolge forschen derzeit über 50 Länder weltweit und bauen über 140 Fusionsvorrichtungen, und eine Reihe technologischer Durchbrüche wurde erzielt. Die IAEO prognostiziert, dass das erste Fusionskraftwerk der Welt bis 2050 gebaut und in Betrieb genommen wird.

Diese Fusionsenergieerzeugung wird die durch die Nachfrage großer KI-Modelle verursachte globale Energieknappheit erheblich mildern.

Im April 2023 ergriff Altman vorbeugende Maßnahmen, indem er persönlich 375 Millionen US-Dollar in das Fusions-StartupHelion Energyinvestierte und dessen Vorsitzender wurde. Darüber hinaus fusionierte Altman im Juli letzten Jahres seine Investmentgesellschaft AltC mit dem Fusions-StartupOklo, was zu einem Börsengang mit einem Wert von etwa 850 Millionen US-Dollar führte, wobei die jüngste Marktkapitalisierung von AltC 40 Milliarden US-Dollar überstieg.

Neben Altmans massiven Investitionen in Fusionsunternehmen kaufen Technologiegiganten wie Amazon und Google direkt saubere Energie.

Laut Daten von Bloomberg kaufte Amazon allein im Jahr 2023 8,8 Gigawatt (GW) saubere Energie und war damit das vierte Jahr in Folge der weltweit größte Käufer sauberer Energie. Meta (3 GW) und Google (1 GW) folgen dicht dahinter.

Amazon gibt an, dass über 90 % des Stroms in seinen Rechenzentren aus sauberer Energieerzeugung stammen, und plant, bis 2025 100 % grüne Energie zu nutzen.

Der Wettbewerb zwischen China und den USA

Tatsächlich hat das Wachstum mehrerer Branchen wie saubere Energie, KI, Rechenzentren, Elektrofahrzeuge und Bergbau die stagnierende Stromnachfrage in den USA wiederbelebt. Allerdings scheint das US-Stromnetz, selbst als „größte Maschine“ der Welt gepriesen, nicht in der Lage zu sein, mit dieser plötzlichen Veränderung umzugehen.

Analysten weisen darauf hin, dass 70 % der Zugangs- und Übertragungsanlagen des US-Stromnetzes veraltet sind und einige Gebiete über unzureichende Netzübertragungsleitungen verfügen. Daher benötigt das US-Stromnetz massive Upgrades, und wenn keine Maßnahmen ergriffen werden, werden die USA bis 2030 mit einem unüberwindbaren inländischen Versorgungsdefizit konfrontiert sein.

Im Vergleich zu den USA ist China hinsichtlich seines Energiebedarfs optimistischer. Derzeit werden Chinas Wind- und Photovoltaikprodukte in über 200 Länder und Regionen exportiert, mit kumulierten Exporten von über 33,4 Milliarden US-Dollar bzw. 245,3 Milliarden US-Dollar.

Während KI ein explosives Wachstum erlebt, hat sich der Wettbewerb zwischen China und den USA in der KI-Branche von einem Wettbewerb um große Modelltechnologie zu einem multidimensionalen Kampf entwickelt, der Rechenleistung, Energie, Arbeitskräfte usw. umfasst.

Mit der potenziellen Bereitstellung der Kernfusionsenergie bis 2050 hofft die Menschheit, das schwierige Problem des KI-Energieverbrauchs zu lösen und in eine Ära unbegrenzter Energieerzeugung einzutreten.

Die richtige Antwort ist A.