Mistral stellt Sicherheitsfilter mit drei Milliarden Parametern unter Apache 2.0

Mistral AI hat am 4. August Shieldstral vorgestellt, einen multimodalen Sicherheitsklassifikator mit 3 Milliarden Parametern. Die Gewichte liegen unter Apache 2.0 auf Hugging Face, unter der Kennung mistralai/Shieldstral-1.0-3B.

Der Unterschied zu bisherigen Guard-Modellen steckt in der Richtlinie. Statt einer beim Training fest verdrahteten Taxonomie von Schadenskategorien nimmt Shieldstral die Moderationsrichtlinie zur Inferenzzeit in normaler Sprache entgegen und liefert aus einem einzigen Forward-Pass eine kalibrierte Wahrscheinlichkeit für Ja oder Nein. Wer die Regeln ändert, tauscht damit Text aus, kein Modell.

Verarbeitet werden Text, Bilder und Kombinationen aus beidem. Für den Betrieb reicht eine einzelne Nvidia-GPU mit 16 Gigabyte.

Technisch sitzt Shieldstral auf Ministral-3-3B mit einem Pixtral-Vision-Encoder. Der Trainingskontext beträgt laut Modellkarte 32k Token. Gelernt hat das Modell an rund 54,1 Millionen Beispielen aus öffentlichen Sicherheitsdatensätzen, deren widersprüchliche Kategorien in ein einheitliches Instruction-Query-Document-Format gebracht wurden. Ein arXiv-Paper unter 2607.25857 begleitet die Veröffentlichung.

Zur Leistung gibt Mistral an, offene Guard-Modelle bis zur siebenfachen Größe in vier Feldern zu erreichen oder zu übertreffen: Textsicherheit, Refusal-Erkennung, Policy-Anpassbarkeit und multimodale Sicherheit. Nachgemessen hat das bislang niemand unabhängig.

Für europäische Anwender ist der praktische Teil weniger das Benchmark-Ergebnis als die Bauweise. Wer Moderationsregeln aus dem AI Act, einer Aufsichtsvorgabe oder der eigenen Hausordnung ableiten muss, kann sie als Text hinterlegen, statt ein Modell nachzutrainieren. Die schwierige Frage verschiebt sich damit nur: Ob eine juristisch formulierte Regel auch so durchgesetzt wird, wie sie gemeint war, entscheidet weiterhin das Modell.