AI News

AI chip power density may reach 1,000 kilowatts per rack, putting pressure on data center power supply and cooling

heise onlineUpdated Nov 16 21:22

AI summary

IDTechEx analysis says that the peak power density of AI racks could rise to 1,000 kilowatts by 2030, while the current typical data center rack density is 15 to 25 kilowatts. Nvidia's Vera-Rubin architecture NVL72 configuration requires 188 to 227 kilowatts per rack, air cooling has reached its physical limits, direct liquid cooling has become the standard, and the industry is shifting to an 800-volt DC power supply architecture, which can increase end-to-end efficiency to 95%. The IEA estimates that data centers already account for about 1.5% of global electricity use and will double by 2030; Germany is discussing relaxing data center PUE and waste heat utilization requirements, and the Bundestag submitted the amendment to committee on its first reading on September 24, but it has not yet been voted on.

Why read this

AI score 52

The article uses the forecast that rack power density will rise from 15-25kW to 1,000kW to connect the chain of changes involving liquid cooling, 800V DC power supply, and German energy efficiency regulations.

Topics

Tags

Body

Der Hype um künstliche Intelligenz stellt Betreiber von Rechenzentren weltweit vor große Herausforderungen im Bereich der Energieversorgung und des thermischen Managements. Da KI-Workloads immer größere Rechenleistungen erfordern, wächst der Strombedarf rasant. Damit steigt auch die Leistungsdichte in den Serverracks drastisch an. Heute typische Rechenzentren arbeiten mit Rackdichten von 15 bis 25 Kilowatt (kW). Moderne Hochleistungsrechner treiben diesen Wert in ungeahnte Höhen. Laut Analysen des Marktforschungsunternehmens IDTechEx erwarten Chiphersteller und Kühlungsanbieter, dass die Spitzenleistungsdichte von KI-Racks bis 2030 auf bis zu 1000 Kilowatt hochschnellen könnte.

Weiterlesen nach der Anzeige

Dieser Wandel zwingt die Branche laut den Analysten zu radikalen Neuentwicklungen beim Design von Rechenzentren. Das gelte vor allem beim Übergang zu fortschrittlichen Flüssigkühlungslösungen und neuen Stromverteilungsarchitekturen.

Ein Treiber dieser Entwicklung ist der drastische Anstieg der thermischen Verlustleistung in den Prozessoren. Zwar sind die exakten Leistungsdaten echter High-End-Chips in der Praxis oft nicht öffentlich bekannt. Doch der eine oder andere Ausblick verdeutlicht die Dimensionen: So soll Nvidias neue Vera-Rubin-Architektur in der Konfiguration NVL72 mit 72 zusammengeschalteten GPUs je nach Betriebsmodus 188 bis 227 kW Leistung pro Serverschrank aufnehmen. Bei solchen thermischen Lasten stoßen klassische Luftkühlungssysteme an physikalische Grenzen, weshalb die direkte Flüssigkühlung bei modernen KI-Systemen inzwischen der Standard ist.

Vom Standard zur Mega-Klasse: Wohin mit der Abwärme?

Wärmetauscher geben die riesigen Wärmemengen im laufenden Betrieb entweder an die Umgebungsluft ab oder speisen sie direkt in externe Kühlkreisläufe ein. Ein prominentes Beispiel dafür ist die erweiterte KI-Fabrik in München, die das Wasser des direkt angrenzenden Eisbachs über Wärmetauscher zur Kühlung nutzt. Nach Messungen der Telekom hat sich der Bach dadurch bisher nur um 0,02 Grad Celsius erwärmt. Das dürfte ökologisch unbedenklich sein. An ihre Grenzen stößt die Anlage dennoch: Nvidias Vera-Rubin-Racks passen laut T-Systems-Chef Ferri Abolhassan nicht in den Aufzug des unterirdischen Rechenzentrums.

Neben solchen umweltschonenden Einbindungsmöglichkeiten setzt sich laut den Auguren im Serverinneren vor allem die Direkt-zu-Chip-Kühlung durch, bei der Kühlplatten auf den heißen Prozessoren sitzen.

Tauchkühlungen bleiben dagegen den Analysen zufolge vorerst ein Nischenmarkt, da hohe Vorabinvestitionen, aufwendige Wartungsarbeiten und komplexe Nachrüstungen der Serverplatinen den Durchbruch im kommerziellen Sektor bremsten. Trotzdem lohne sich der Umstieg auf flüssige Kühlmedien auch aus ökologischer Sicht, da dadurch die Gesamt-CO₂-Emissionen eines Rechenzentrums um rund 15 Prozent gesenkt werden könnten. Angesichts des rasanten Wachstums der Branche und der steigenden Energiedichten zeige sich aber schnell, dass nicht nur die Kühlung, sondern auch die klassische Stromverteilung an ihre Grenzen stößt.

Neue Netze für den Stromhunger

Bisherige Serverschränke in KI-Rechenzentren stützen sich meist auf eine 54-Volt-Gleichstromverteilung. Wenn aber die Rackleistung die Marke von 200 kW überschreitet, stoßen herkömmliche Leitungen an physikalische Grenzen wie Platzmangel, Kupferüberlastung und ineffiziente Spannungswandlungen.

Weiterlesen nach der Anzeige

Als branchenweite Lösung gilt daher der schrittweise Übergang zu einer 800-Volt-Gleichstromarchitektur, erläutern die Experten. Weil der Netzstrom bereits am Rand des Rechenzentrums direkt in 800 Volt Gleichspannung umgewandelt wird und dadurch die meisten Zwischenstufen entfallen, vereinfache sich die gesamte Stromarchitektur erheblich.

Das könne den Wirkungsgrad vom Netzanschluss bis hin zu den internen Servernetzteilen auf bis zu 95 Prozent steigern. Flankierend dazu setzt die Leistungselektronik verstärkt auf Halbleitermaterialien wie Siliziumkarbid und Galliumnitrid. Erste experimentelle Ansätze setzen sogar auf supraleitende Bänder zur Minimierung von Übertragungsverlusten.

Die Internationale Energieagentur (IEA) schätzt derweil, dass der Anteil von Rechenzentren am weltweiten Stromverbrauch auf rund 1,5 Prozent gestiegen ist und sich bis 2030 verdoppeln soll. Damit wächst der politische und regulatorische Druck auf die Betreiber.

Debatte über den hiesigen Standort

Branchenriesen wie Microsoft, Google und Meta investieren bereits zunehmend in CO₂-Zertifikate, grüne Energieverträge und Abscheidungsprojekte. Die Gesetzgebungsaktivität zieht parallel international und national an. In Deutschland steht vor allem die Debatte über die Reform des Energieeffizienzgesetzes im Fokus: Die Bundesregierung will die Effizienzanforderungen an Rechenzentren, gemessen etwa am PUE-Wert (Power Usage Effectiveness), sowie die Pflichten zur Abwärmenutzung lockern. Der Branchenverband eco warnt dennoch vor einer Überregulierung des Standorts, Umweltorganisationen sehen dagegen einen Rückschritt beim Klimaschutz.

Die Novelle zielt im Kern darauf ab, den Standort Deutschland für den Ausbau der digitalen Infrastruktur flexibler und investorenfreundlicher zu gestalten. Gleichzeitig muss sie aber ehrgeizige nationale Klimaziele und den Energiehunger moderner KI-Systeme in Einklang bringen. Der Bundestag hat den Entwurf am 24. September in erster Lesung beraten und an den Ausschuss überwiesen, beschlossen ist die Novelle noch nicht. Nur wenn hocheffiziente Kühlkonzepte, intelligente Abwärmenutzungen und moderne Stromarchitekturen Hand in Hand gehen, schreiben die Marktforscher, lasse sich der digitale Fortschritt ökologisch verantwortungsvoll bewältigen.

(mho)

Source

heise online