Nvidia rechnet jetzt in Tokens pro Watt, SemiAnalysis misst das 2,1-Fache statt 30-Fache

Nvidia hat am 15. September zum Auftakt des AI Infra Summit in Santa Clara seine Effizienzrechnung umgestellt. Maßstab ist ab sofort nicht mehr Leistung pro Chip, sondern Tokens pro Watt. Firmenangabe für das kommende System Vera Rubin NVL72: bis zu 30-fach höherer Durchsatz pro Megawatt als beim heutigen GB300 NVL72, gemessen an agentischen Aufgaben. Der Summit läuft noch bis zum 17. September.

Am selben Tag veröffentlichte SemiAnalysis eigene Messungen. Über das quelloffene Benchmarkpaket InferenceX und dessen Agentic-Coding-Test AgentX kommt das Haus auf 59,4 Millionen Tokens pro Sekunde und Megawatt für Vera Rubin NVL72, gegenüber 28,5 Millionen für Blackwell, bei einer Interaktivität von 100 Tokens pro Sekunde.

Das ist gut das 2,1-Fache. Nicht das 30-Fache.

Der Abstand zwischen beiden Zahlen ist keine Rechenpanne, sondern eine Frage der Messanordnung. Nvidias Wert bezieht sich auf GB300 und auf einen selbst gewählten agentischen Workload, nicht auf den allgemeinen Betrieb. Setzt man andere Interaktivitätsziele an, kommt auch SemiAnalysis auf bis zum 7-Fachen, allerdings auf Vorab-Software.

Sauber ist keine der beiden Messungen. SemiAnalysis testete unveröffentlichte Hardware mit Unterstützung des Herstellers und bezeichnet die eigenen Ergebnisse als richtungsweisend, ausdrücklich nicht als unabhängig validiert. Wir führen die Meldung deshalb als teilweise bestätigt.

Neben der Hardware kündigte Nvidia die Software DSX MaxLPS an, die bis zu 40 Prozent mehr GPU-Kapazität im selben Megawatt-Budget herausholen soll. Der Cloud-Anbieter Lambda meldet aus dem Einsatz 23 Prozent mehr Leistung pro Watt bei 24 Prozent mehr Token-Durchsatz.

Dazu kamen Groq 3 LPX als Beschleuniger für Inferenz, die sechste NVLink-Generation, die Anbindung der Chips von d-Matrix über NVLink Fusion und eine Zusammenarbeit mit Amazons Chiptochter Annapurna Labs an kundenspezifischem Speicher auf Basis von NVHBM. Die zugehörige CPU hatten wir Ende August beschrieben.

Der eigentliche Befund steckt in der Umstellung selbst. Wenn ein Chiphersteller anfängt, seine Produkte in Watt zu bewerben statt in Rechenoperationen, dann redet er über die Stromrechnung seiner Kunden, nicht über Silizium. AMD hatte im August eine Vervierfachung der Energieeffizienz angekündigt und damit denselben Engpass adressiert.

Bleibt die Frage, an welcher Zahl sich ein Betreiber orientieren soll, der 2027 ein Rechenzentrum plant. Zwischen 2,1-fach und 30-fach liegt der Unterschied zwischen einem Ausbauschritt und einem neuen Geschäftsmodell.