Wenn KI Gesetze schreibt: Wie KI-Müll und Rechtsfehler die Gesetzgebung in den USA und der EU bedrohen

Diese Lücke wird zur wichtigeren Geschichte.

Der Engpass ist nicht mehr das Schreiben

Das Repräsentantenhaus hatte schon lange mehr Gesetzesvorschläge, als es letztlich verarbeiten konnte. Im vorherigen Kongress erstellte das Office of Legislative Counsel mehr als 30.000 Entwürfe, fast dreimal so viele wie tatsächlich eingebracht wurden.

KI verleiht diesem Ungleichgewicht eine neue Dimension. Kongressbüros, Interessenvertretungen und externe Interessengruppen können nun Gesetzestexte in einer Geschwindigkeit und Menge produzieren, die früher erheblichen Personalaufwand erfordert hätte.

Das Ergebnis ist nicht unbedingt bessere Gesetzgebung. Es ist mehr Gesetzgebung, die fertig aussieht.

Kommerzielle Systeme wie OpenAI's ChatGPT und Anthropic's Claude können überzeugende Gesetzessprache erzeugen und dabei Fehler machen, die in einem Rechtsdokument inakzeptabel wären. Sie können Abschnitte des US-Gesetzbuchs erfinden oder falsch identifizieren. Sie können Steuergutschriften mit Abzügen, Ausschlüssen oder Zuschüssen verwechseln. Sie können "Staat" so definieren, dass versehentlich Washington, D.C. oder Stammesnationen ausgelassen werden.

Das sind keine kosmetischen Mängel.

Ein Gesetz kann grammatikalisch perfekt und rechtlich falsch sein.

Diese Unterscheidung ist zentral für das Problem, mit dem Kongressjuristen konfrontiert sind. Die Korrektur eines KI-generierten Gesetzentwurfs kann länger dauern als das Verfassen von Grund auf, da der Jurist zunächst feststellen muss, welche Teile des Textes vertrauenswürdig sind. Die scheinbare Effizienz der automatisierten Entwurfserstellung verschiebt daher die Arbeit, anstatt sie zu eliminieren, und lastet auf der kleinen Gruppe von Fachleuten, die für die Validierung des Ergebnisses verantwortlich sind.

Der frühere Rechtsberater des Repräsentantenhauses, Wade Ballou, der von 2016 bis 2024 amtierte, beschrieb die Gefahr, fehleranfällige generative KI auf grundlegende Gesetzessprache anzuwenden, als "das höchste Risiko an der Spitze des Versagens".

Dieser Satz erfasst das institutionelle Problem: Je näher KI an den endgültigen Gesetzestext herankommt, desto weniger Raum bleibt für plausible Fehler.

Die versteckten Kosten sind Fachwissen

Eine weitere Konsequenz lässt sich nicht einfach durch das Zählen fehlerhafter Entwürfe messen.

Traditionelle Gesetzesentwürfe zwingen Kongressmitarbeiter dazu, die Mechanik der Politik zu verstehen, die sie umsetzen wollen. Das Durcharbeiten von Definitionen, Querverweisen und Wechselwirkungen mit bestehendem Recht ist Teil des Verständnisses der Gesetzgebung selbst.

Die Delegierung dieser Arbeit an ein KI-System kann die Verbindung zwischen Politikwissen und Gesetzessprache brechen.

Ein Mitarbeiter mag wissen, was ein Vorschlag erreichen soll, ohne vollständig zu verstehen, wie die Formulierung, die zur Erreichung dieses Ziels erforderlich ist, mit bestehenden Gesetzen interagiert. Wenn die Maschine die Sprache produziert, kann die menschliche Rolle allmählich darin bestehen, Text auszuwählen, zu bearbeiten und zu genehmigen, anstatt seine rechtliche Architektur zu beherrschen.

Das schafft eine besonders unangenehme Abhängigkeit. Das Office of Legislative Counsel wird dann erwartet, sowohl als Entwurfsdienst als auch als letzte menschliche Firewall gegen Technologie zu fungieren, die anderswo im Gesetzgebungsprozess eingesetzt wird.

Die Abgeordnete Norma Torres hat davor gewarnt, dass übermäßiges Vertrauen in KI-generierte Gesetzessprache Fehler einführen, unbeabsichtigte rechtliche Konsequenzen erzeugen oder Formulierungen hervorbringen könnte, die die politische Absicht eines Mitglieds nicht genau widerspiegeln. Der Abgeordnete Joe Morelle hat ebenfalls argumentiert, dass KI die Fachleute im Büro des Rechtsberaters nicht ersetzen kann, und hat sich dafür ausgesprochen, der Institution die Ressourcen zur Verfügung zu stellen, die sie benötigt.

Die Frage ist also nicht, ob Kongressjuristen weiterhin notwendig sein werden. Es ist, ob sie die Konsequenzen einer Technologie absorbieren können, die die Menge an Text, die sie überwachen sollen, dramatisch erhöht.

Eine andere Art von Rechtstechnologie

Die Reaktion des Repräsentantenhauses weist auf eine wichtige Unterscheidung zwischen der Nutzung von KI zur Generierung von Sprache und der Nutzung von Technologie zu deren Überprüfung hin.

Die Comparative Print Suite, die für das Repräsentantenhaus vom Technologen Ari Hershowitz und der Strategischen Designerin Charlotte Lee von Granicus entwickelt wurde, soll Änderungen am US-Gesetzbuch mithilfe von Verarbeitung natürlicher Sprache visualisieren. Ihr entscheidendes Merkmal ist nicht, dass sie mehr Text produziert. Es ist, dass sie Unsicherheit signalisieren kann, anstatt eine Antwort zu erfinden.

Diese Designphilosophie ist wichtig.

Kommerzielle große Sprachmodelle sind darauf ausgelegt, plausible Fortsetzungen zu generieren. Gesetzgebungssysteme erfordern so etwas wie disziplinierte Verweigerung: Wenn eine Zitierung nicht bestätigt werden kann oder eine rechtliche Beziehung ungewiss ist, muss das System dies sagen.

Der Unterschied ist grundlegend. In gewöhnlichem Schreiben kann eine selbstbewusste Annäherung harmlos sein. Bei der Ausarbeitung von Gesetzen kann eine erfundene Abschnittsnummer die Bedeutung einer gesamten Bestimmung verändern.

Die sich abzeichnende Lehre für die Regierung ist daher weniger, ob öffentliche Institutionen KI nutzen sollten, sondern welche Aufgaben für probabilistische Systeme geeignet sind. Die wertvollste Technologie ist möglicherweise nicht das System, das in Sekunden einen Gesetzentwurf erstellen kann, sondern das, das einem Anwalt genau sagen kann, wo die Maschine – oder der Mensch – falsch gelegen haben könnte.

Europa steht vor demselben Problem, aber anders

Die Vereinigten Staaten sind nicht allein mit der Entdeckung, dass KI das Angebot an Gesetzestexten schneller erhöhen kann, als Institutionen es verifizieren können.

Auch Beamte des Europäischen Parlaments haben Bedenken hinsichtlich "KI-Müll", halluzinierter Rechtsverweise und der zunehmenden Nutzung KI-gestützter Änderungsanträge geäußert. Die institutionelle Reaktion entwickelt sich jedoch auf einem anderen Weg.

Der EU AI Act wurde durch den Digital Omnibus on AI vom Juli 2026 ergänzt, während die Transparenzanforderungen aus Artikel 50 am 2. August in Kraft traten. Im Europäischen Parlament bleibt die Offenlegung der KI-Nutzung durch Mitglieder jedoch freiwillig. Die Institution entwickelt außerdem ihren EPGenAI Hub, um sicheren Zugang zu genehmigten Modellen zu ermöglichen.

Der Kontrast ist aufschlussreich. Europa baut einen Rahmen für kontrollierte Nutzung und Transparenz auf, während das föderale Gesetzgebungssystem der USA weiterhin ohne umfassenden Rahmen für den Einsatz von KI in der Gesetzgebung bleibt. Vorgeschlagene Bundesgesetze, einschließlich des Great American AI Act, bleiben angesichts von Streitigkeiten über die Bundespräemption blockiert.

Keiner der Ansätze löst das zugrunde liegende Kapazitätsproblem.

Regeln können Offenlegung verlangen. Sichere Plattformen können den Zugang kontrollieren. Beides liefert nicht automatisch die Anwälte, die benötigt werden, um Millionen von Zeilen maschinengenerierter Rechtssprache zu verifizieren.

Wer profitiert von der neuen Fülle?

Der Wandel verändert auch das Gleichgewicht zwischen Gesetzgebern, Beamten und Organisationen, die versuchen, die Gesetzgebung zu beeinflussen.

Interessenvertretungen und Sonderinteressen können nun schnell hochgradig maßgeschneiderte Gesetzessprache generieren, was eine der praktischen Hürden zwischen Lobbyarbeit und Gesetzesentwurf verringert. Die Fähigkeit, mit vorgefertigter Sprache anzukommen, hat in Washington schon immer eine Rolle gespielt; die Senkung der Kosten für die Produktion dieser Sprache macht den Vorteil leichter skalierbar.

Der entsprechende Druck lastet auf den überparteilichen Kongressmitarbeitern.

Wenn die Menge an vorgeschlagener Sprache steigt, während die Kapazität für rechtliche Prüfung weitgehend konstant bleibt, wird die knappe Ressource der Institution zur Verifizierung. Die Menschen, die über dieses Fachwissen verfügen, werden zu Torwächtern einer zunehmend automatisierten Gesetzgebungspipeline.

Das schafft eine eigentümliche Umkehrung des KI-Versprechens. Die Technologie soll Engpässe beseitigen. In diesem Fall kann sie den Engpass folgenreicher machen.

Die Gefahr besteht nicht darin, dass der Kongress plötzlich einem Chatbot erlaubt, das Gesetz ohne menschliche Beteiligung zu schreiben. Das plausiblere institutionelle Versagen ist subtiler: Menschen bleiben formell verantwortlich, während die Menge an maschinell produziertem Material zu groß wird, um es mit der gleichen Tiefe zu prüfen.

Wenn fehlerhafte Bestimmungen diesen Prozess überleben und Gesetz werden, verlagern sich die Konsequenzen nachgelagert. Bundesbehörden müssen möglicherweise mehrdeutige Bestimmungen umsetzen; Gerichte könnten aufgefordert werden, widersprüchliche Sprache zu klären; Unternehmen und Bürger könnten mit anhaltender Unsicherheit darüber konfrontiert sein, was der Kongress tatsächlich beabsichtigt hat. Die Kosten eines billigen ersten Entwurfs können dann als Rechtsstreitigkeiten, Verwaltungsverzögerungen und regulatorische Verwirrung wieder auftauchen.

Der Kongress hat Jahrzehnte damit verbracht, Institutionen aufzubauen, um Gesetzessprache präzise zu machen. KI hat die Produktion dieser Sprache billig gemacht.