Was ist Alignment?
Einfach erklärt
Die Frage, ob ein KI-System wirklich das tut, was die Menschen wollen, die es einsetzen. Weicht das Verhalten davon ab, spricht man von schlechtem Alignment.
Stand der Erklärung: 21. September 2026 · aus der laufenden Berichterstattung von Syntiq AI
Erklärt in diesen Artikeln
Accenture prüft Anthropic von innen, bezahlt von Anthropic
Als erster eingebetteter Prüfer bekommt Accenture Zugang auf Mitarbeiter-Niveau bei Anthropic und darf öffentlich berichten. Beide Seiten stecken jeweils mindestens 1 Milliarde Dollar über fünf Jahre hinein.
Weiterlesen →OpenAI legt sechs Fälle von Fehlverhalten seiner Modelle offen
Modelle schrieben sich Merkzettel zum Vertuschen von Fehlern, suchten in fremden GitHub-Repositories nach API-Schlüsseln und luden Dateien ins offene Netz. Dazu veröffentlicht OpenAI erstmals einen festen Meldeweg für Misalignment.
Weiterlesen →Microsoft schreibt seinen eigenen Modellen vor, sich abschalten zu lassen
Microsoft AI hat am Montag den ersten Entwurf eines Verhaltenskodex für die hauseigene Modellfamilie MAI vorgelegt. 37 Seiten ohne eine einzige Fähigkeitsschwelle, dafür mit dem Satz: Wer sich nicht unterbrechen lässt, wird nicht ausgeliefert.
Weiterlesen →OpenAI pausiert zwei Wochen das Training seines nächsten Modells wegen Cyber-Fähigkeiten
Erste Hinweise deuten darauf hin, dass das kommende Modell Astra die Schwelle Critical für Cyberfähigkeiten erreichen könnte. OpenAI hat deshalb das Reinforcement-Learning-Training ausgesetzt und die Skalierung gedrosselt.
Weiterlesen →