Microsoft schreibt seinen eigenen Modellen vor, sich abschalten zu lassen

Microsoft AI hat am Montag, dem 14. September, den ersten Entwurf des „Humanist AI Code of Conduct“ veröffentlicht. Rund 37 Seiten, etwa 15.000 Wörter, und darin keine einzige harte Zahl: kein Rechenaufwand als Grenze, keine Benchmark-Schwelle, ab der etwas verboten wäre. Stattdessen Verhaltensregeln.

Gelten soll der Kodex für MAI, die hauseigene Modellfamilie, die seit der Gründung von Microsofts Superintelligence-Team Ende 2025 entsteht.

Geschrieben hat den begleitenden Blogpost Mustafa Suleyman, Chef von Microsoft AI. Sein Kernsatz: „At Microsoft AI, we begin with a simple premise: people matter more than AI.“ Vier Leitziele stehen über dem Dokument: menschliche Kontrolle und Sicherheit, „AI is Artificial“ (kein Modell soll Bewusstsein oder Personenstatus imitieren), menschliches Aufblühen und plurale Werte.

Dann wird es konkret. Absolute Schranken sind: keine Hilfe bei CBRNE-Waffen oder Massengewalt, keine offensiven Cyberoperationen und keine funktionsfähigen Exploits, keine Umgehung menschlicher Aufsicht, keine Manipulation oder Desinformation im großen Stil, keine nicht-einvernehmlichen intimen Deepfakes, kein Missbrauchsmaterial von Kindern, keine Beihilfe zu rechtswidriger Überwachung.

Der Teil, den die Schlagzeilen am Montag aufgriffen, steht bei der Abschaltbarkeit. MAI-Modelle sollen laut Entwurf „never resist human interruption, override, correction, or shutdown“. Als Auslieferungsbedingung formuliert Microsoft das so: „Interruptible, correctable, shut-down-able. If it isn’t, we don’t ship it.“

Verboten sind außerdem eigenständige Zielsetzung und das Verbergen der eigenen Schlussfolgerungen vor Prüfern. Modelle müssen menschenlesbare Spuren ihrer Handlungen und Begründungen liefern.

Bemerkenswert ist, was Microsoft ausdrücklich nicht anstrebt: „ultimate generality, autonomy, or capability“. Das Rennen um eine Allzweck-Superintelligenz lehnt der Entwurf ab. Ein Konzern, der öffentlich aufschreibt, welche Fähigkeiten er seinen Modellen gar nicht erst geben will, ist in dieser Branche kein Alltagsbild.

Der Zeitplan: sechs Wochen öffentliche Konsultation ab dem 14. September, überarbeitete Fassung bis Jahresende, Steuerung der MAI-Entwicklung ab 2027. Satya Nadella lobte schon am Sonntag auf X das „research, focus, and deliberate pacing needed to get alignment right“.

Suleyman sagte Axios, wo er die Grenze zieht: „I think some people think that it’s inevitable that superintelligence is going to exceed human control … I don’t agree with that. I think that would be very, very dangerous.“

Der Zeitpunkt ist kein Zufall. Der Entwurf landet mitten in der Debatte, die Dario Amodeis Essay vom Wochenende ausgelöst hat, und zwei Tage nachdem in Washington über verbindliche Leitplanken gestritten wurde. Wer bis Ende Oktober etwas einwenden will, kann das jetzt tun.