Google DeepMind gründet ein Institut für die AGI-Debatte

Google DeepMind hat am 17. September das DeepMind Institute gestartet, eine Plattform für Aufsätze über die Folgen von AGI. Als Direktoren stehen DeepMind-Mitgründer Shane Legg, Google-Manager James Manyika und DeepMind-Chef Demis Hassabis darüber, Legg zusätzlich als geschäftsführender Redakteur. Den Auftrag beschreibt die Ankündigung als interdisziplinäre Debatte darüber, wie AGI sicher gebaut und regiert werden soll und welche Institutionen eine Gesellschaft dafür braucht.

Zum Start stehen fünf Texte online. Rohin Shah und Anca Dragan argumentieren dafür, die Gedankenkette von Modellen lesbar zu halten, weil sie das einzige Fenster in deren Absichten ist. Julian Jacobs und Alex Imas prüfen elf wirtschaftspolitische Werkzeuge gegen die absehbare Verdrängung von Arbeit. Stephen Cave plädiert für eine Utopie mit Demut, Hassabis steuert einen Rahmen für die Prüfung von Frontier-Modellen bei, der zuerst auf X erschienen war.

Der Hinweis im Kleingedruckten ist der interessanteste Teil: Die Beiträge geben die Ansichten ihrer Autoren wieder und sind nicht als offizielle Haltung von Google zu lesen. Autoren und Direktoren stehen zugleich auf der Gehaltsliste desselben Konzerns. Ein Institut, das seine eigene Verbindlichkeit vorab verneint, ist eine bemerkenswerte Konstruktion.

Auffällig ist vor allem die Gleichzeitigkeit. Am selben 17. September stellte Baseten seinen Forschungsarm Base Labs vor, der mit Hugging Face und Goodfire eine Sicherheitsinfrastruktur für Open-Weight-Modelle bauen will. Einen Tag später machte Sakana AI seine Frontier Intelligence Group öffentlich, eine hausinterne Gruppe, die Alternativen zum Transformer-Paradigma sucht. Und seit dem 15. September ist bekannt, dass OpenAI, Anthropic und Google DeepMind an gemeinsamen Sicherheitsregeln arbeiten.

Drei Gründungen in zwei Tagen, alle von Firmen, die gleichzeitig am Tempo mitdrehen, das sie beklagen. Legg selbst nannte Dario Amodeis Ruf nach einem Tempolimit gegenüber der Financial Times der Richtung nach interessant und bedenkenswert. Wer die Debatte tatsächlich verbreitern will, wird an einer Zahl gemessen werden, die im Fall des DeepMind Institute noch fehlt: dem Anteil der Autoren, die nicht von Google bezahlt werden.