Qualcomm baut die Hexagon-NPU für Agenten um

Qualcomm hat am 10. September eine neue Hexagon-NPU-Architektur vorgestellt. Der Kern der Sache ist ein zusätzlicher Baustein namens Element Accelerator, der ausschließlich auf Transformer-Rechenmuster ausgelegt ist. Dazu kommen 50 Prozent mehr gemeinsam genutzter Speicher gegenüber der Vorgängergeneration.

Erstmals unterstützt die NPU Mixture-of-Experts nativ. Als Zielgröße nennt Qualcomm MoE-Modelle mit bis zu 30 Milliarden Parametern, die vollständig auf dem Gerät laufen.

Beim Prefill, also dem Einlesen des Prompts, verspricht das Unternehmen bis zu 50 Prozent mehr Tempo bei INT4-Modellen. Gerechnet wird in FP16, FP8, INT8, INT4 und neu auch INT2.

Diese Zahlen stammen sämtlich aus dem Blogeintrag des Herstellers. Nachgemessen hat sie bislang niemand.

Welcher Chip die Architektur bekommt, sagt Qualcomm offiziell nicht. Übereinstimmende Berichte nennen den nächsten Snapdragon-Flaggschiff-SoC, 8 Elite Gen 6 beziehungsweise Pro. Vollständige Plattformdaten gibt es erst beim Snapdragon Summit vom 22. bis 24. September auf Hawaii, konkrete Geräte hat Qualcomm nicht genannt.

Bemerkenswert ist der Zeitpunkt. Während Qualcomm 30-Milliarden-Parameter-Modelle aufs Handy holen will, deckelt Google gerade den Speicherhunger von Android-Apps, weil Arbeitsspeicher teuer geworden ist. Ein MoE-Modell spart Rechenarbeit, nicht Platz. Die Experten müssen trotzdem alle irgendwo liegen.

Wer bekommt am Ende den knappen Arbeitsspeicher, der Dauer-Agent oder die geöffneten Apps? Der Blogeintrag lässt diese Frage offen, und die Antwort darauf entscheidet mehr über den Alltagsnutzen als jeder Prozentwert beim Prefill.