Handeln mit Unsicherheit: Globale KI Governance als lernendes System

Marco-Alexander Breit/Jonas Hein

KIR 2026, 241 In G. E. Lessings „Nathan der Weise“ stört Nathan, dass seine Tochter Recha ihren menschlichen Retter als „Engel“ verehrt, ja überhöht. Nathan, der Archetyp des aufgeklärten Humanisten, legt zum argumentativen Filo an, als er sagt, dass Verblendung und Illusion zu Handlungsunfähigkeit führen:

„Wieviel andächtig schwärmen leichter, als gut handeln ist? wie gern der schlaffste Mensch andächtig schwärmt, um nur, – ist er zu Zeiten sich schon der Absicht deutlich nicht bewußt – um nur gut handeln nicht zu dürfen?“

Es ist dieses Spannungsverhältnis, das die politische Diskussion um KI prägt. Denn KI ist gekennzeichnet durch eine hypertrophe und verselbstständigte Beschleunigungslogik, durch die Gleichzeitigkeit von Verheißung und Gefahr, durch Unsicherheit und Hoffnung, durch ein erlösungsnahes Produktivitätsversprechen. Ein Solutionismus, bei dem die kollektiven Erwartungen ebenso diffus sind wie die individuellen Einflussmöglichkeiten. Das erzeugt immense politische Abwägungsgewichte, die ein auf Ausgleich bedachtes politisches System erstarren lassen könnten. Zwischen Bewunderung und Risikoaversion droht öffentlichen Institutionen jene Handlungsunfähigkeit, vor der Nathan warnt. Politik befindet sich in einem Handlungsdilemma: Jede Entscheidung scheint zugleich zu früh, zu spät, zu riskant.

Nun aber hat die Bundesregierung das BMDS gegründet. Unter Bundesminister Wildberger haben wir uns messbarem Handeln verschrieben. Unsere Arbeit fußt auf einem klaren Blick für die Herausforderungen und Chancen von KI. Wir glauben, dass das größte Risiko darin besteht, spät oder gar nicht zu handeln, nicht darin, Entscheidungen auf dem Weg überdenken und anpassen zu müssen. Dieses Verständnis von Risiko und Chance bildet den Kern unseres politischen Umgangs mit KI.

I. Handlungsdilemma durch legislativen Experimentalismus lösen

Wir müssen das Handeln unter Unsicherheit nicht nur akzeptieren, sondern liebgewinnen: Die Auswirkungen von KI sind in der Entwicklungsphase schwer vorhersehbar (Narayanan/Kapoor, AI as Normal Technology, Knight First Amend. Inst. V 15.5.2025, abrufbar unter: https://knightcolumbia.org/con tent/ai-as-normal-technology). Folgenwissen entsteht erst mit Weiterentwicklung, Verbreitung, Diffusion. In der Entwicklungsphase ist steuernde Regulierung noch möglich, kann aber Innovation beeinträchtigen. Je stärker die Technologie diffundiert, desto schwerer ist regulatorisches Nachsteuern.

Dies zeigt das EU Digital Rulebook. Damit hatte die EU den Weg einer frühzeitigen Steuerung sämtlicher Inputfaktoren der KI-Wertschöpfungskette eingeschlagen. Es entstand ein mehrschichtiges System an teilweise überlappenden Anforderungen, das in seiner normativ-konzeptionellen Tiefe und extraterritorialen Reichweite von der – wohl übersteigerten – Zuversicht des vermeintlich globalen Standardsetzers getragen war (Brussels Effect). Dieses setzte früh Leitplanken für die KI-Wertschöpfungskette, nahm aber in Kauf, dass sich Zielgenauigkeit und Flexibilität erst im Vollzug erweisen würden, in der Hoffnung, dass Vertrauen auf dem globalen Markt mehr gelte als Geschwindigkeit.

Spätestens mit dem Draghi Bericht wurde jedoch deutlich, dass dieses Rulebook zu Übersteuerung führte. Es behindere Wirtschaft und Wissenschaft, erzeuge Rechtsunsicherheit und verursache prohibitive Compliancekosten. Der Rechtsrahmen festige etablierte Player und behindere disruptive Markteintritte. Denn junge, innovative Unternehmen treffe überkomplexe Regulierung stärker als große Akteure. Die Innovationsökosysteme von KI entwickelten sich rasant und zeigten spezielle Anforderungen. Europa drohe sich in einer middle-technology-and-industry Falle zu verfangen, wenn es den Rechtsrahmen nicht erheblich vereinfache und für diese Anforderungen empfänglich gestalte.

Für uns ist dieser richtige Befund die direkte Folge des genannten Handlungsdilemmas. Indem die EU frühzeitig mit imperfekter Information handelte, erhielt sie zwar die Handlungs- und Steuerungsprärogative. Nun muss das System lernen: Die EU muss den Rechtsrahmen zügig und entschlossen an den neuen Informationsstand anpassen. Dieser durch globale Abhängigkeiten zunehmende Handlungsdruck hat das Autorenteam von Europe 2031 eindrucksvoll geschildert (Juijn/van Baarsen et al., Europe 2031, 11.6.2026, abrufbar unter: https://europe2031.ai/europe-2031.pdf).

Deshalb ist es hilfreich, die europäische Digitalgesetzgebung als Teil eines globalen Prozesses des legislativen Experimentalismus zu verstehen (Crum, Brussels effect or experimentalism? Internet Policy Review v. 27.8.2025, abrufbar unter: https://policyreview.info/articles/analysis/brussels-effect-or-experimentalism). Dieser Prozess wird andauernde Anpassungen an technische Entwicklungen erfordern. Wir müssen internationale best practices bewerten und ihre Auswirkungen auf die Fähigkeit unserer Gesellschaften analysieren, disruptive Technologien erfolgreich aufzunehmen.

II. Der KI-Omnibus als Beispiel lernender Regulierung

Von diesem Geist war die deutsch-französische Erklärung zur Simplifizierung des Digital Rulebooks vom November 2025 getragen: Der Diskurs über KI ist konstituierender Teil der entstehenden KI-Governance. Nur wer an den Wegscheiden die Entscheidungen stets mit klarem Kompass abgleicht und den Weg agil an Risiken und Chancen anpasst, wird die Möglichkeiten des digitalen Zeitalters erschließen.

Deshalb sind BMDS und Bundesregierung aktiv und erfolgreich für eine Anpassung der KI-VO eingetreten. Ziel war es, Freiräume zu schaffen und die Zielgenauigkeit zu erhöhen, ohne ihren Schutzanspruch aufzugeben. Der KI-Omnibus gibt Unternehmen und Marktüberwachungsbehörden mehr Zeit, sich auf den Rechtsrahmen vorzubereiten. Er adressiert Inkohärenzen mit sektoralem Recht, fasst den Anwendungsbereich von Hochrisiko-KI enger und schließt unternehmensbezogene Pflichten zu KI-Kompetenz und Verzerrungserkennung explizit aus. Zudem werden auch kleine Midcaps bevorzugt behandelt und KI-Cybersicherheitsanforderungen mit dem Cyber Resilience Act kohärent gestaltet. Die horizontale Logik der KI-VO im Maschinenrecht wird durch eine präzisere Logik des Rechtsanwendungsbefehls, gepaart mit Standardakzessorietät, ergänzt.

Schließlich haben wir technische und gesellschaftliche Entwicklungen berücksichtigt und Verbote besonders verwerflicher KI-Systeme zur Herstellung sexualisierter Outputs eingeführt. Uns war wichtig, unbeabsichtigte Konsequenzen im Blick zu haben: Aufgrund hoher Strafandrohungen verlangt der Verhältnismäßigkeitsgrundsatz einen bestimmten, eng gefassten Anwendungsbereich. Der Verbotstatbestand musste so gefasst sein, dass Entwicklung und Betrieb völlig unbedenkliche KI-Systeme nicht behindert werden. Aus Sicht der Bundesregierung wurde dieses Ziel erfüllt. Die neuen Verbote knüpfen nicht an objektive Systemfähigkeit („capability“) an, sondern an das Vorhandensein zumutbarer und angemessener technischer Sicherheitsvorkehrungen. Auch hier wollen wir Schutz mit lernfähiger Technikgestaltung verbinden und Rechtsetzung nicht gegen, sondern mit technologischer Entwicklung zusammen denken.

Der KI-Omnibus ist ein gutes Beispiel für schnelle, lernfähige Gesetzgebung. Dennoch bleibt das Problem der Übersteuerung durch nicht abgestimmte EU-Rechtsakte mit zu vielen Dokumentations-, Nachweis- und Maßnahmenergreifungspflichten. Sie wirken in der Summe innovationsdämpfend und investitionsdrosselnd.

In den Verhandlungen zum Digital Omnibus werden wir uns deshalb mit derselben Verve einbringen und die Fähigkeit zur Selbstkorrektur als entscheidend für die politische Selbstbestimmung und ökonomische Wettbewerbsfähigkeit anmahnen. Die Bundesregierung fordert die EU-Kommission zudem auf, weitere Rechtsvereinfachung vorzuschlagen, etwa iRd Digital Fitness Checks, und über andere Regelungsinstrumente und sogar Regelungsverzicht nachzudenken. Zusammengenommen wird sich zeigen, ob die Omnibusse sporadisches Flickwerk sind oder als europäische best practice zur Lösung des Handlungsdilemmas beitragen können.

III. Globale Kooperation

Die experimentelle Natur der KI-Regulierung lehrt noch etwas: Ernsthafte und wirksame Steuerung disruptiver Technologien gelingt nur durch internationale Kooperation. Wir dürfen uns von winner takes all Narrativen nicht entmutigen lassen. KI-Entwicklung ist ein steter Prozess gemeinsamen Fortschritts unter Einbeziehung diverser Akteure.

Auf der Wirkungsebene sind die Externalitäten von KI-Risiken gegenüber territorialen Grenzen agnostisch. So werden systemische Phänomene wie Missbrauch, Desinformation, Cyberhacking, Infrastrukturgefahren, aber auch Urheberrechts- und Datenschutzverletzungen durch fragmentierte, nationale Lösungen und race to the bottom Dynamiken eher noch verstärkt.

Auf der Entwicklungsebene zeigen standard benchmark Tests, dass technische Durchbrüche schnell repliziert werden können und Ziele wie Artificial General Intelligence ein dynamisches Ökosystem beschreiben. Selbst der Fokus auf scaling Faktoren wie compute-Wachstum scheint zuletzt durch descaling Lösungen (effiziente Algorithmen, Techniken, Inferenzen) etwas justiert zu werden (Massive Investitionen in Europa sind natürlich trotzdem zentral. S. die Rechenzentrumsstrategie des Bundes in BMDS-Verantwortung, abrufbar unter: https://bmds.bund.de/themen/digitale-wirtschaft/recheninfrastruktur). Auch die technische Entwicklung folgt damit weniger einem linearen Wettlauf als einem vernetzten, iterativen Experimentieren. Deshalb ist es strategisch wichtig, dass die EU KI-VO open source Systeme weitgehend vom Anwendungsbereich ausschließt. Die incentiviert proprietären Optimierungen durch Nutzung der vielfältigen, hochwertigen europäischen Datenrepositorien und nuancierte industrielle Anwendungsadaptionen.

Schließlich möchten wir uns an die Spitze der Bewegung setzen, die internationale Kooperation, Modelltransparenz und Rechtssicherheit in den Mittelpunkt rückt. Die Bundesregierung hat etwa mit Kanada vertiefte Zusammenarbeit im Bereich KI vereinbart. Parallel soll die „Sovereign Technology Alliance“ mit vertrauenswürdigen Partnern die technologische Souveränität stärken, strategische Abhängigkeiten verringern und gemeinsam globale Standards für Schlüsseltechnologien gestalten. Mit Indien und Brasilien hat die Bundesregierung KI-Partnerschaften geschlossen, um vertrauenswürdige und ethische KI zu fördern. Diese Initiativen folgen der Überzeugung, dass sich lernfähige Regulierung und Technologie nur im Rahmen gegenseitigen Vertrauens und geteilter Standards entfalten können.

Darüber hinaus wird die Bundesregierung ein KI-Sicherheitsinstitut gründen. Es soll Fähigkeiten und Risiken moderner KI-Modelle analysieren und der Regierung belastbare Entscheidungsgrundlagen geben. Es wird den internationalen Austausch mit vergleichbaren Einrichtungen vertiefen und auf die Entwicklung gemeinsamer Standards hinwirken, um grenzüberschreitendes Vertrauen zu stärken. Durch seine Doppelrolle in AI-Security/AI-Safety und AI-Prosperity trägt es dazu bei, verantwortungsvolle Innovation und Wertschöpfung zu ermöglichen und internationale Kooperation auf Augenhöhe zu fördern. So wird aus technischer System- und strategischer Wirkungsanalyse ein zentrales Element politischer Beratung.

IV. Gut handeln – gut lernen

Wir sind Zeugen eines global entstehenden Rechts für KI. Dieses Recht wird aus einem iterativen Lern- und Kooperationsprozess über Zeit hervorgehen. Entsprechend dem Nathanschen Impetus wird diesen Prozess mitgestalten, wer mutig und „gut“ handelt, sich selbstkritisch hinterfragt – und von den Erfahrungen anderer Jurisdiktionen lernt. Wir sehen, dass sich EU-Gesetzgebung als lernfähiger und iterativer Prozess erweist. Das BMDS hat diesen Prozess ambitioniert mitgestaltet und dabei die Chancen dieser technologischen Innovation konsequent in den Dienst unserer Gesellschaft und unseres Wohlstands gestellt.

Wer human centric AI zum Erfolg bringen will, muss die conditio humana in ihrer Vielschichtigkeit in den Fokus setzen: Der Mensch sucht Sicherheit, aber auch die Freiheit seiner Neugier. Er strebt nach individueller Entfaltung, aber auch nach Wohlstand in der Gemeinschaft. In dem Spannungsverhältnis der menschlichen Erfahrung liegt der Schlüssel für Handeln im KI-Zeitalter. Es gilt, KI als gestaltbares Instrument zu begreifen, das Menschliches Handeln wirkungsvoll verstärken kann.

Nathan versucht Recha zu erklären, wieso die Verherrlichung ihres Retters in die Irre führt: Ihre Mühen und Segnungen gingen ins Leere, wenn Sie sich nicht dem Menschen widmen.

„Er wird Nicht fett durch euer Fasten; wird nicht reich durch eure Spenden; wird nicht herrlicher durch eu'r Entzücken; wird nicht mächtiger durch eu'r Vertraun. Nicht wahr? Allein ein Mensch!“