Nvidia gibt cuFile frei, Google, Intel und Meta pflegen mit

Nvidia hat am 4. August auf der Future of Memory and Storage (FMS) in Santa Clara angekündigt, die cuFile-APIs quelloffen zu stellen. Über diese Schnittstelle lesen und schreiben GPUs direkt vom Speicher, ohne Umweg über die CPU; sie gehört zu GPUDirect Storage. Als erste Maintainer neben Nvidia stehen Google, Intel und Meta fest.

Dazu kommt die Initiative Storage-Next. Beteiligt sind nach Nvidias Angaben über 40 Speicher- und Flash-Anbieter, darunter DDN, Kioxia und Micron. Ziel sind gemeinsame Standards für GPU-getriebenen Speicherzugriff.

Das Konzept dahinter nennt Nvidia SCADA (scaled, accelerated data access): Massiv parallele GPUs holen sich nur die Daten, die sie gerade brauchen, direkt aus dem Speicher. Die Vera-CPU soll in einer zweistufigen Kompressions- und Verschlüsselungspipeline bis zum 3,21-fachen Durchsatz einer x86-CPU kommen. Diese Zahl ist eine Eigenmessung und unabhängig nicht überprüft.

Die FMS ist in dieser Woche der Ort, an dem sich Speicher und KI-Beschleuniger sortieren. Samsungs ZHBM wurde dort gezeigt, die HBF-Spezifikation läuft in dieselbe Richtung: weg von der CPU als Zwischenstation.

Bemerkenswert ist, wer da mitpflegt. Google, Intel und Meta arbeiten alle an eigenen Beschleunigern, und ausgerechnet die drei verwalten künftig Nvidias Speicherschnittstelle mit. Über den Standardisierungsdruck in diesem Markt sagt das mehr als jede Presseerklärung. Offen bleibt, ob quelloffen hier Mitbestimmung bedeutet oder nur Einsicht.