Rust-Projekt verbietet LLM-generierten Code, erlaubt aber LLM-Prüfung

Das Projekt rust-lang/rust hat am 5. August eine formale LLM-Richtlinie angenommen und im offiziellen Inside-Rust-Blog veröffentlicht. Fünf Teams haben zugestimmt. Rust entscheidet per Konsens, eine knappe Mehrheit hätte also nicht gereicht.

Die Trennlinie verläuft zwischen Prüfen und Erstellen. Sprachmodelle dürfen Fragen beantworten, Code analysieren, Vorschläge machen und beim Review helfen.

Was sie nicht dürfen: Dokumentation schreiben, nicht-triviale Quellcode-Kommentare setzen, Safety-Kommentare formulieren, Compiler-Diagnosemeldungen texten oder PR-Beschreibungen und Issue-Texte aus persönlichen GitHub-Accounts erzeugen.

Für Codeänderungen gilt eine höhere Hürde als für Menschencode. Tests sind Pflicht. An Stellen, die die Soundness betreffen, ist LLM-Code untersagt, außer der Autor ist in genau diesem Bereich Fachexperte.

Wer öffentlich LLM-generierten Text einbringt, muss das offenlegen; private Nutzung bleibt offenlegungsfrei. Untersagt ist außerdem mechanisches Copy-Paste zwischen Modell und Reviewer — also die Praxis, einen Review-Kommentar ungelesen ins Modell zu kippen und die Antwort ungelesen zurück in den Thread.

Auslöser war eine Flut von Low-Effort-Beiträgen. Der Blogpost nennt 1.281 offene Pull Requests am Repository.

Die Richtlinie gilt ausdrücklich nur für rust-lang/rust, nicht für die übrige rust-lang-Organisation. Einen experimentellen Pfad für LLM-generierten Code gibt es weiterhin: vorab mit einem Reviewer abgestimmt, auf unkritische Bereiche beschränkt, getestet.

Bemerkenswert ist, welches Risiko die Regeln eigentlich adressieren. Nicht in erster Linie schlechten Code, sondern die Zeit der Betreuer. Der Engpass eines großen Open-Source-Projekts war noch nie das Schreiben, sondern das Lesen. Ob die Richtlinie wirkt, wird sich an derselben Zahl ablesen lassen, die sie ausgelöst hat.