Die Umsetzung der KI-VO

RDi: Die Bundesregierung und das federführende BMDS versprechen vollmundig, dass das Gesetz Innovationen fördern und den Wirtschaftsstandort stärken soll. Wird es diesem Anspruch gerecht? 

Botta: Nicht nur für die Wirtschaft, sondern für die gesamte digitalisierte Gesellschaft ist ein effizienter Vollzug der KI-Verordnung entscheidend. Nur so kann diese ihre – bei aller Kritik bestehenden – Potenziale für Risikominimierung und Innovationsförderung entfalten. In Deutschland stellen die föderalen Marktüberwachungsstrukturen dabei eine besondere Herausforderung dar. Insoweit ist es zu begrüßen, dass der Gesetzentwurf eine „schlanke“ Aufsichtsstruktur anstrebt. Allerdings setzt er dieses Versprechen nur bedingt um. Denn die BNetzA nimmt trotz ihrer herausgehobenen Stellung nur eine Auffangkompetenz wahr, während vorrangig die bestehenden Marktüberwachungsbehörden zuständig sind – auf Bundesebene etwa das Kraftfahrt-Bundesamt, auf Landesebene die Gewerbeaufsichtsämter. Hinzu kommen die Sonderrollen der BaFin sowie der Datenschutzaufsicht. Ob damit ein effektiver Vollzug der KI-Verordnung gelingt, wird davon abhängen, inwieweit die BNetzA ihren Koordinierungs- und  Unterstützungsaufgaben gerecht werden kann.

RDi: Der Referentenentwurf stand unter dem Vorwurf, gegen Verfassungs- und Unionsrecht zu verstoßen. Wie hat das BMDS darauf reagiert?

Botta: Die Kritik am Referentenentwurf zielte insbesondere auf die unabhängige KI-Marktüberwachungskammer (UKIM), die bei der BNetzA für die Aufsicht über KI-Systeme in besonders sensiblen Bereichen wie der Justiz oder Strafverfolgung zuständig sein soll. Der Referentenentwurf wollte diese Aufsicht auf Landesbehörden erstrecken – was in die Eigenstaatlichkeit der Länder eingegriffen hätte. Der Regierungsentwurf hat davon zu Recht Abstand genommen. Damit sind jedoch nicht alle Fragen zur UKIM geklärt. Diskutabel ist schon, ob sie als eigenständige Behörde anzusehen ist und ob ihre Neugründung mit der KI-Verordnung vereinbar ist. Selbst wenn man beides bejaht, muss sie den Anforderungen der „völligen Unabhängigkeit“ gemäß Art. 74 VIII KI-VO genügen – was neben ihrer Weisungsfreiheit auch einen eigenen Haushaltsplan sowie die datenschutzrechtliche Qualifikation der Aufsichtsmitglieder voraussetzt. All das ist derzeit nicht zweifelsfrei erfüllt. Eindeutig unionsrechtswidrig ist zudem, dass § 17 II KI-MIG-E keine Bußgelder gegenüber öffentlichen Stellen vorsieht. Art. 99 KI-VO lässt insoweit nationalen Spielraum nur beim Wie, nicht beim Ob.

RDi: Welche Innovationspotenziale verheißt das geplante Reallabor?

Botta: In KI-Reallaboren sollen neue Technologien unter Behördenaufsicht erprobt werden können; ein im FinTech-Bereich bereits bewährtes Konzept. Der Entwurf sieht dafür mindestens ein Reallabor bei der BNetzA vor. Positiv ist, dass § 13 III KI-MIG-E neben KMU auch Forschungseinrichtungen und Hochschulen prioritären Zugang gewährt. Ungenutztes Potenzial liegt in der grenzüberschreitenden Dimension: Die KI-Verordnung lässt ausdrücklich Reallabore mehrerer Mitgliedstaaten zu. Dieser Ansatz böte die Chance zu europäischen Kooperationen – etwa im Sicherheitsbereich, um Alternativen zu marktbeherrschenden außereuropäischen Softwarelösungen wie „Gotham“ von Palantir zu entwickeln. Der Entwurf schweigt zudem dazu, ob auch Datenschutzbehörden KI-Reallabore errichten dürfen. 

RDi: Welche Regelungsfragen lässt der Gesetzentwurf darüber hinaus aus Ihrer Sicht offen?

Botta: Das KI-MIG kann naturgemäß nicht das nationale KI-Recht abschließend regeln. KI ist ein Querschnittsthema, das auf viele unterschiedliche Rechtsgebiete ausstrahlt. Gleichwohl fallen zwei strukturelle Leerstellen auf. Erstens fehlt eine institutionelle Einbindung von Wissenschaft und Zivilgesellschaft über einen Beirat bei der Aufsicht: § 5 Nr. 4 KI-MIG-E fordert zwar eine angemessene Einbeziehung, bleibt dabei aber zu unbestimmt. Zweitens ist die Transparenz beim KI-Einsatz durch den Staat im Entwurf ausgeklammert. Dabei hat das BMDS mit dem „Marktplatz der KI-Möglichkeiten“ begonnen, ein KI-Transparenzregister für die öffentliche Verwaltung aufzubauen – ein Ansatz, der gesetzlich verankert und deutlich weiterentwickelt werden sollte, um Bürgerinnen und Bürgern belastbare Einblicke in den behördlichen KI-Einsatz zu gewähren.