Warum verbraucht KI so viel Strom?

• Das exponentielle Wachstum der KI, veranschaulicht durch ChatGPT, wird voraussichtlich zu einem deutlichen Anstieg der Energienachfrage führen, die bis 2030 bis zu 25 % des US-amerikanischen Stroms verbrauchen könnte, was Bedenken hinsichtlich einer bevorstehenden Energiekrise auslöst und einen globalen „Energiekrieg“ entfacht.
• Um den wachsenden Energieverbrauch der KI zu bewältigen, verfolgen Branchenexperten und führende Technologieunternehmen wie Amazon, Google und Altman Strategien wie die Optimierung großer Modelle und KI-Hardware zur Reduzierung des Energieverbrauchs sowie Investitionen in neue Energiequellen wie Kernfusion.
• Trotz der Herausforderungen durch den Energieverbrauch der KI bleibt der Optimismus bestehen, die Nachfrage dank kontinuierlicher Fortschritte bei erneuerbaren Energien, Infrastruktur-Upgrades und internationaler Zusammenarbeit decken zu können, um eine nachhaltige Energiezukunft im Zentrum der KI-Revolution zu sichern.

Während ChatGPT eine neue Welle der Begeisterung für künstliche Intelligenz (KI) auslöst, bleibt die zugrunde liegende Frage des Energieverbrauchs im Fokus.

Am 10. April dieses Jahres erklärteRene Haas, CEO des Chipriesen Arm, öffentlich, dass große KI-Modelle wie ChatGPT erhebliche Rechenleistung benötigen. Schätzungen zufolge werden KI-Rechenzentren bis 2030 20 % bis 25 % des US-amerikanischen Strombedarfs verbrauchen, ein deutlicher Anstieg gegenüber den derzeitigen 4 %.

Öffentliche Daten zeigen, dass ChatGPT derzeit über 200 Millionen Anfragen pro Tag verarbeitet und dabei täglich bis zu 500.000 Kilowattstunden Strom verbraucht. Das entspricht einer jährlichen Stromrechnung von 200 Millionen Yuan allein für ChatGPT.

Das bedeutet, dass der tägliche Stromverbrauch von ChatGPT mehr als 17.000-mal so hoch ist wie der eines durchschnittlichen Haushalts. (Der gewerbliche Strom in den USA liegt derzeit bei etwa 0,147 $ pro Kilowattstunde, was 1,06 Yuan oder 530.000 Yuan pro Tag entspricht)

Laut Alex de Vries, Leiter einer niederländischen Beratungsfirma, wird die KI-Industrie bis 2027 voraussichtlich zwischen 850 und 1.340 Milliarden Kilowattstunden Strom pro Jahr verbrauchen, was dem jährlichen Gesamtstromverbrauch eines europäischen Landes wie Schweden oder den Niederlanden entspricht.

Musk sagt voraus, dass die Stromknappheit bereits 2025 eintreten könnte, und erklärt: „Nächstes Jahr werden Sie sehen, dass wir nicht genug Strom haben, um alle Chips zu betreiben.“

OpenAI-CEOSam Altmanprognostiziert ebenfalls eine Energiekrise in der KI-Branche und deutet an, dass die zukünftige technologische Entwicklung der KI stark von Energie abhängen wird und die Menschen mehr Photovoltaikprodukte und Energiespeicher benötigen werden.

All dies deutet darauf hin, dass KI kurz davor steht, einen neuen globalen „Energiekrieg“ auszulösen.

Lesen Sie auch:5 Frauen, die die KI-Branche verändern

Lesen Sie auch:Welchen KI-Stimmgenerator verwendet jeder?

KI stößt auf einen energetischen Engpass

In den letzten 500 Tagen hat ChatGPT einen weltweiten Anstieg der Nachfrage nach großen KI-Modellen und Rechenleistung ausgelöst.

Die großen globalen Technologiegiganten wie Microsoft, Google, Meta und OpenAI haben sich beeilt, KI-Chips zu erwerben, und sind sogar in die Chip-Herstellung eingestiegen, wobei der Gesamtumfang mehrere Billionen Dollar übersteigt.

Im Wesentlichen ist KI stark auf Computertechnologie und Informationsverarbeitung angewiesen, was wiederum eine große Anzahl von GPU-Chips sowie zugrunde liegende Ressourcen wie Strom, Wasserkraft, Windenergie und Finanzierung erfordert.

Bereits 1961 veröffentlichte der Physiker Rolf Landauer, der bei IBM arbeitete, einen Artikel, in dem er das vorschlug, was später als „Landauers Prinzip“ bekannt wurde.

Diese Theorie besagt, dass bei irreversiblen Änderungen der in einem Computer gespeicherten Informationen eine geringe Wärmemenge an die Umgebung abgegeben wird, wobei die abgegebene Wärmemenge von der Temperatur des Computers zu diesem Zeitpunkt abhängt – je höher die Temperatur, desto größer die abgegebene Wärme.

DasLandauersche Prinzipverbindet Information und Energie, genauer gesagt mit dem zweiten Hauptsatz der Thermodynamik. Denn logisch irreversible Informationsverarbeitungsoperationen führen zur Vernichtung von Information, was zu einer Zunahme der Entropie in der physikalischen Welt führt und somit Energie verbraucht.

Seit seiner Einführung stieß dieses Prinzip auf erhebliche Skepsis. In den letzten etwa zehn Jahren wurde das „Landauersche Prinzip“ jedoch experimentell bestätigt.

Im Jahr 2012 maß eine in Nature veröffentlichte Studie erstmals die winzige Wärmemenge, die freigesetzt wird, wenn ein „Bit“ Daten gelöscht wird. Spätere unabhängige Experimente bestätigten ebenfalls das „Landauersche Prinzip“.

In den letzten zehn Jahren haben moderne elektronische Computer beim Rechnen milliardenfach mehr Energie verbraucht als der theoretische Wert des Landauerschen Prinzips. Wissenschaftler haben sich bemüht, effizientere Rechenmethoden zu finden, um die Kosten zu senken.

Heute, mit der Explosion großer KI-Modelle, besteht tatsächlich ein großer Rechenbedarf. Folglich wird KI nicht nur durch die Chip-Knappheit, sondern auch durch Energieknappheit eingeschränkt.

Kürzlich erklärte Musk auf der Konferenz „Bosch Connected World 2024“ ebenfalls, dass vor etwas mehr als einem Jahr die Knappheit bei Chips lag, aber im nächsten Jahr werden Sie eine Stromknappheit sehen, die nicht in der Lage ist, die Nachfrage aller Chips zu decken.

Li Xiuquan, stellvertretender Direktor des Zentrums für Künstliche Intelligenz des Chinesischen Instituts für Wissenschaftliche und Technologische Information, erklärte ebenfalls: „In den letzten Jahren haben Umfang und Anzahl großer KI-Modelle schnell zugenommen, was zu einem raschen Anstieg der Energienachfrage geführt hat. Obwohl Probleme wie ‚Stromknappheit‘ kurzfristig wahrscheinlich nicht auftreten werden, kann der exponentielle Anstieg des Energiebedarfs mit dem Beginn des Zeitalters der groß angelegten Intelligenz nicht ignoriert werden.“

Während des Trainings muss eine große Menge an Textdaten gesammelt und vorverarbeitet werden

In den letzten Jahren haben Umfang und Anzahl großer KI-Modelle schnell zugenommen, was zu einem raschen Anstieg der Energienachfrage geführt hat. Obwohl Probleme wie ‚Stromknappheit‘ kurzfristig wahrscheinlich nicht auftreten werden, kann der exponentielle Anstieg des Energiebedarfs mit dem Beginn des Zeitalters der groß angelegten Intelligenz nicht ignoriert werden.

Li Xiuquan, stellvertretender Direktor des Zentrums für Künstliche Intelligenz des Chinesischen Instituts für Wissenschaftliche und Technologische Information

Während der Trainingsphase muss eine große Menge an Textdaten als Eingabedaten gesammelt und vorverarbeitet werden. Anschließend werden die Modellparameter in einer geeigneten Modellarchitektur initialisiert, die Eingabedaten verarbeitet und es wird versucht, eine Ausgabe zu generieren. Schließlich werden die Parameter wiederholt basierend auf der Differenz zwischen Ausgabe und erwarteter Ausgabe angepasst, bis sich die Leistung des Modells nicht mehr wesentlich verbessert.

Vom Training von GPT-2 mit 1,5 Milliarden Parametern bis zu GPT-3 mit 175 Milliarden Parametern ist der Trainingsenergieverbrauch hinter den OpenAI-Modellen atemberaubend. Öffentliche Informationen zeigen, dass OpenAI pro Training 128,7 kWh verbraucht, was 32 km entspricht, die von 3.000 Tesla gleichzeitig zurückgelegt werden.

Laut der Research-Firma New Street Research benötigt allein Google etwa 400.000 Server für KI, die 62,4 GWh pro Tag und 22,8 TWh pro Jahr verbrauchen.

Während der Inferenzphase lädt die KI zunächst die Parameter des trainierten Modells, verarbeitet die zu inferierenden Textdaten vor und lässt das Modell dann eine Ausgabe basierend auf den erlernten Sprachmustern generieren. Google gibt an, dass zwischen 2019 und 2021 60 % des KI-bezogenen Energieverbrauchs auf die Inferenz entfielen.

Nach Schätzung von Alex de Vries verbraucht ChatGPT über 500.000 kWh pro Tag, um etwa 200 Millionen Anfragen zu beantworten, was einer jährlichen Stromrechnung von 200 Millionen Yuan entspricht, dem 1,7-fachen des durchschnittlichen täglichen Stromverbrauchs jedes amerikanischen Haushalts.

Ein Bericht von SemiAnalysis zeigt, dass der Energieverbrauch für die Problemsuche mit großen Modellen zehnmal höher ist als bei herkömmlichen Stichwortsuchen. Am Beispiel Google: Standard-Google-Suchen verbrauchen 0,3 Wh Strom, während jede Interaktion mit den großen Modellen 3 Wh verbraucht. Wenn die Nutzer für jede Google-Suche KI-Tools verwenden würden, wären etwa 29,2 TWh Strom pro Jahr erforderlich, etwa 79 Millionen kWh pro Tag. Das entspricht einer kontinuierlichen Energieversorgung des höchsten Wolkenkratzers der Welt, des Burj Khalifa in Dubai, für über 300 Jahre.

Darüber hinaus verbraucht laut dem Stanford Artificial Intelligence Index Report 2023 jede KI-Suche etwa 8,9 Wh Strom. Im Vergleich zu gewöhnlichen Google-Suchen ist der Energieverbrauch pro KI-Suche fast 30-mal höher. Für ein Modell mit bis zu 176 Milliarden Parametern verbraucht allein die Trainingsphase 433.000 kWh, was dem jährlichen Stromverbrauch von 117 amerikanischen Haushalten entspricht.

Es ist zu beachten, dass im Rahmen des Skalierungsgesetzes (Scaling Law) mit zunehmender Parameteranzahl auch die Leistung der großen Modelle steigt, begleitet von einem höheren Energieverbrauch.

Daher ist die Energiefrage zu einem kritischen „Korsett“ für die weitere Entwicklung der KI-Technologie geworden.

Schnellquiz

Wie viele Server benötigt Google für KI?

A. 400 000

B. 300 000

C. 200 000

D. 100 000

Die richtige Antwort finden Sie am Ende des Artikels.

Es ist noch lange nicht katastrophal

Jensen Huangbietet trotz seiner Bedenken hinsichtlich der Energieversorgung eine optimistischere Sichtweise: In den letzten zehn Jahren hat sich die KI-Berechnung um das Millionenfache vervielfacht, aber ihre Kosten, der Platz oder der Energieverbrauch sind nicht im gleichen Maße gestiegen.

Laut dem jährlichen Langzeitausblick der US-Energieinformationsbehörde (EIA) liegt die jährliche Wachstumsrate des Strombedarfs in den USA derzeit unter 1 %. John Ketchum, CEO von NextEra Energy, schätzt jedoch, dass sich diese jährliche Wachstumsrate des Strombedarfs unter dem Einfluss der KI-Technologie auf etwa 1,8 % beschleunigen wird.

Ein Bericht der Boston Consulting Group zeigt, dass der Stromverbrauch von Rechenzentren im Jahr 2022 2,5 % des gesamten US-Stromverbrauchs ausmachte (etwa 130 Terawattstunden) und sich bis 2030 voraussichtlich auf 7,5 % (etwa 390 Terawattstunden) verdoppeln wird. Das entspricht dem Stromverbrauch von etwa 40 Millionen amerikanischen Haushalten, einem Drittel aller US-Haushalte. Die Gruppe prognostiziert außerdem, dass generative KI mindestens 1 % des neuen US-Strombedarfs ausmachen wird.

Das bedeutet, dass der Stromverbrauch von Rechenzentren und KI zwar erheblich ist, aber noch lange nicht katastrophal.

Was die Kosten betrifft, so hat ein Bericht der Internationalen Agentur für Erneuerbare Energien hervorgehoben, dass die durchschnittlichen Stromkosten von Wind- und Solarprojekten weltweit in den letzten zehn Jahren kumulativ um über 60 % bzw. 80 % gesunken sind. Brancheninsider erwähnten ebenfalls: „Die Gesamtkosten der Photovoltaik ähneln denen der thermischen Energie, während Windenergie in einigen Regionen halb so teuer ist wie thermische Energie.“

Wie werden wir den bevorstehenden Anstieg des Energiebedarfs bewältigen?

Laut Zusammenfassungen von Branchenexperten durch die Titanium Media App gibt es zwei Hauptlösungen für den Energieverbrauch der KI: Die eine besteht darin, den Energieverbrauch durch Optimierung großer Modelle oder KI-Hardware zu senken, und die andere darin, neue Energiequellen wie Kernfusion, Spaltungsressourcen usw. zu finden, um den Energiebedarf der KI zu decken.

In Bezug auf die Hardware-Optimierung kann bei großen KI-Modellen auf Billionen-Ebene mit hohem Energieverbrauch der Energieverbrauch gesenkt werden, indem die Größe und Komplexität der Modell-Token durch Algorithmus- und Modelloptimierung komprimiert werden. Gleichzeitig können Unternehmen weiterhin energiearme KI-Hardware entwickeln und aktualisieren, wie die neueste NVIDIA B200, KI-PCs oder KI-Telefonendgeräte. Darüber hinaus kann durch Optimierung der Energieeffizienz von Rechenzentren und Verbesserung der Energienutzungseffizienz der Energieverbrauch gesenkt werden.

Als Reaktion darauf erklärte Bai Wenxi, Vizepräsident der China Enterprise Capital Alliance: „In Zukunft sind technologische Innovationen und Geräte-Upgrades erforderlich, um die Effizienz der Stromerzeugung weiter zu verbessern, die Übertragungskapazität und -stabilität des Netzes zu erhöhen, die Zuteilung von Energieressourcen zu optimieren, die Flexibilität der Stromversorgung zu stärken, dezentrale Energiesysteme zu fördern und Energieübertragungsverluste zu reduzieren, um den Herausforderungen des Energiebedarfs aus der Entwicklung der Rechenleistung zu begegnen.“

Qu Haifeng, stellvertretender Vorsitzender des Expertenausschusses der Arbeitsgruppe für Rechenzentren in China (CDCC), ist der Ansicht, dass sich die betroffenen Branchen auf die Verbesserung der Energieeffizienz von Rechenzentren konzentrieren sollten, anstatt ihren Umfang zu reduzieren. Rechenzentren müssen nicht ihren Energieverbrauch senken, sondern vielmehr die Qualität ihres Energieverbrauchs verbessern.

Was die Entwicklung der Kernfusionsenergie betrifft, so kann die kontrollierte Kernfusion aufgrund ihrer reichlichen Rohstoffressourcen, ihrer großen Energiefreisetzung, ihrer Sicherheit, Sauberkeit und Umweltvorteile im Wesentlichen die verschiedenen Anforderungen einer idealen zukünftigen ultimativen Energiequelle erfüllen.

Derzeit gibt es drei Hauptquellen für Fusionsenergie: kosmische Energie wie Sonnenlicht und -wärme; die Explosion von Wasserstoffbomben (unkontrollierte Kernfusion); die künstliche Sonne (Vorrichtung zur kontrollierten Kernfusion).

Laut Statistik führen derzeit mehr als 50 Länder weltweit Forschungen und den Bau von über 140 Fusionsvorrichtungen durch, und eine Reihe technologischer Durchbrüche wurden erzielt. Die IAEO prognostiziert, dass das erste Fusionskraftwerk der Welt bis 2050 gebaut und in Betrieb genommen wird.

Diese Fusionsenergieerzeugung wird die durch die Nachfrage großer KI-Modelle verursachte globale Energieknappheit erheblich mildern.

Im April 2023 ergriff Altman vorbeugende Maßnahmen, indem er persönlich 375 Millionen Dollar in das Fusions-Start-upHelion Energyinvestierte und dessen Vorsitzender wurde. Darüber hinaus fusionierte Altman seine Investmentgesellschaft AltC im Juli letzten Jahres mit dem Fusions-Start-upOklound erzielte einen Börsengang mit einem Wert von etwa 850 Millionen Dollar, wobei die jüngste Marktkapitalisierung von AltC 40 Milliarden Dollar übersteigt.

Neben Altmans massiven Investitionen in Fusionsunternehmen kaufen Technologiegiganten wie Amazon und Google direkt saubere Energie.

Laut Bloomberg-Daten kaufte Amazon allein im Jahr 2023 8,8 Gigawatt (GW) saubere Energie und war damit das vierte Jahr in Folge der weltweit größte Käufer sauberer Energie. Meta (3 GW) und Google (1 GW) folgen dicht dahinter.

Amazon gibt an, dass über 90 % des Stroms seiner Rechenzentren aus sauberer Energieerzeugung stammen, und plant, bis 2025 eine 100%ige Nutzung grüner Energie zu erreichen.

Der Wettbewerb zwischen China und den USA

Tatsächlich hat das Wachstum mehrerer Branchen wie saubere Energie, KI, Rechenzentren, Elektrofahrzeuge und Bergbau die stagnierende Stromnachfrage in den USA wiederbelebt. Allerdings scheint das US-Stromnetz, obwohl als „größte Maschine“ der Welt gepriesen, nicht in der Lage, mit dieser plötzlichen Veränderung umzugehen.

Analysten weisen darauf hin, dass 70 % der Zugangs- und Übertragungseinrichtungen des US-Stromnetzes veraltet sind und einige Gebiete über unzureichende Netzübertragungsleitungen verfügen. Daher benötigt das US-Stromnetz massive Upgrades, und wenn keine Maßnahmen ergriffen werden, werden die USA bis 2030 mit einem unüberwindbaren inländischen Versorgungsdefizit konfrontiert sein.

Im Vergleich zu den USA ist China hinsichtlich seines Energiebedarfs optimistischer. Derzeit werden Chinas Wind- und Photovoltaikprodukte in über 200 Länder und Regionen exportiert, mit kumulierten Exporten von über 33,4 Milliarden Dollar bzw. 245,3 Milliarden Dollar.

Während KI ein explosives Wachstum erlebt, hat sich der Wettbewerb zwischen China und den USA in der KI-Branche von einem Wettbewerb um große Modelltechnologie zu einem mehrdimensionalen Kampf entwickelt, der Rechenleistung, Energie, Arbeitskräfte usw. umfasst.

Mit dem potenziellen Einsatz der Kernfusionsenergie bis 2050 hofft die Menschheit, das schwierige Problem des KI-Energieverbrauchs zu beenden und in ein Zeitalter unbegrenzter Energieerzeugung einzutreten.

Die richtige Antwort ist A.