Was ist KV-Cache?
Einfach erklärt
Ein Zwischenspeicher, in dem sich das Modell merkt, was im laufenden Gespräch schon gesagt wurde. Er wächst mit der Länge des Gesprächs und belegt zusätzlich zum Modell selbst Arbeitsspeicher.
Stand der Erklärung: 21. September 2026 · aus der laufenden Berichterstattung von Syntiq AI
Erklärt in diesen Artikeln
MediaTek nennt 30 Milliarden Parameter fürs Handy und verschweigt den Speicherbedarf
Der Dimensity 9600 Pro soll laut MediaTek Modelle bis 30 Milliarden Parameter auf dem Gerät tragen. Aktive Parameter, Quantisierung und benötigter Arbeitsspeicher stehen in keiner der offiziellen Unterlagen.
Weiterlesen →DeepSeek drückt den KV-Cache auf ein Viertel, Speicheraktien geben nach
DeepSeek-V4.1-Flash kommt mit 890 Byte Zwischenspeicher pro Token aus, rund 75 Prozent weniger als die Vorgängerarchitektur. In Korea verloren SK Hynix und Samsung nach der Veröffentlichung an Wert.
Weiterlesen →Zhipu lüftet das Stealth-Modell: GLM-5.3-Flash lief eine Woche auf chinesischen Chips
Das anonyme Modell „Ox Alpha“ ist GLM-5.3-Flash. Zhipu AI gibt an, in der Testwoche 62 Billionen Token ausschließlich auf rund 100.000 in China gefertigten Chips verarbeitet zu haben. Belegt ist damit die Inferenz, nicht das Training.
Weiterlesen →