Von Dr. Robert Kilian, Vorstand beim KI Bundesverband
Seit dem 1.8. 2024 gilt die KI-Verordnung unmittelbar in den Mitgliedstaaten. Sie eröffnet dabei auch Gestaltungsspielräume, die nun vom nationalen Gesetzgeber
zu füllen sind. Welche Fragen hier gerade diskutiert werden weiß Rechtsanwalt Dr. Robert Kilian, Vorstand beim KI Bundesverband.
RDi: In welchen Bereichen gibt es durch die KI-Verordnung Umsetzungs- und Anpassungsbedarfe im deutschen Recht und in welchem Stadium befinden sich die Überlegungen bzw. Prozesse im Moment?
Kilian: Insbesondere die Struktur der Marktaufsicht, Maßnahmen zur Innovationsförderung sowie die Änderung bestehender sektoraler Regulierung sind Umsetzungsfragen, bei denen die Mitgliedstaaten deutlichen Gestaltungsspielraum haben. Die meisten Mitgliedstaaten beginnen aber gerade erst, Prozesse zur Durchführung der KI-Verordnung aufzusetzen. Vorreiter ist Spanien, das schon im letzten Jahr das Pilotprojekt einer Regulatory Sandbox gestartet und eine KI-Aufsichtsbehörde gegründet hat. In Deutschland ist mit einem ersten Durchführungsgesetz im Herbst 2024 zu rechnen.
RDi: Wer ist für die nationale Aufsicht im Gespräch und wie soll diese Aufsicht ausgestaltet werden?
Kilian: Von den nationalen Gesetzgebern müssen eine Marktüberwachungsbehörde sowie eine notifizierende Behörde benannt werden. Beide Aufgaben können auch unter dem Dach einer Behörde wahrgenommen werden. Dafür zur Auswahl stehen Bundesbehörden, wie etwa die Bundesnetzagentur, das Bundesamt für Sicherheit in der Informationstechnik oder die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit. Denkbar sind aber auch Landesbehörden, zum Beispiel die Landesdatenschutzbehörden. Für eine Bundesbehörde als Marktaufsichtbehörde spricht sicherlich die so besser zu erreichende einheitliche Aufsichtsdichte. Dort, wo Aufsichtsbehörden des Bundes bereits eine sektorale Prüfung von KI-Systemen vornehmen, wie sie zum Beispiel die Bundesanstalt für Finanzdienstleistungsaufsicht im Rahmen der MaRisk durchführt, sollten diese auch weiterhin zuständig bleiben. Diese Möglichkeit sieht die KI-Verordnung auch ausdrücklich vor.
RDi: Welche Aspekte sind bei der Einrichtung von nationalen KI-Reallaboren zu beachten?
Kilian: Wie sich aus der KI-Verordnung ergibt, sollen KI-Reallabore als ein Instrument der Innovationsförderung verstanden werden, welches KI-Unternehmen eine kontrollierte Umgebung bieten und die Entwicklung sowie das Testen innovativer KI-Systeme erleichtern soll. Aus der Finanzindustrie gibt es bereits Erfahrungen mit Regulatory Sandboxes, welche bei der Umsetzung der KI-Verordnung fruchtbar gemacht werden sollten. Um die genannten Ziele zu realisieren, muss daher ein nationales Reallabor von der Marktaufsicht organisatorisch getrennt betrieben werden. Andernfalls könnten KI-Unternehmen aus Angst vor Wettbewerbsnachteilen von der Teilnahme absehen, weil sie befürchten, früh in den Fokus der Marktaufsicht zu rücken. Denkbar wäre es, eine Innovationseinheit innerhalb der Behörde zu gründen, die als Zielvorgabe auch entsprechend auf eine hohe Anzahl an teilnehmenden KI-Unternehmen im Reallabor incentiviert ist. Die Aufnahme in die Sandbox sollte zudem weitgehend KI-Unternehmen als Ganzes gestattet werden, nicht nur einzelnen Use Cases. Jedenfalls die meisten größeren Unternehmen arbeiten an einer Vielzahl von Anwendungsfällen mit unterschiedlichen KI-Technologien.
RDi: Was sind die nächsten Schritte?
Kilian: Ganz entscheidend ist nach der nun erfolgten Veröffentlichung der KI-Verordnung im Amtsblatt die zügige Entwicklung harmonisierter technischer Standards für Hochrisiko KI-Systeme. Sie dienen als Grundlage der Konformitätsvermutung mit den Anforderungen der Verordnung. Die Erstellung dieser Normen ist Aufgabe der Industrie innerhalb der Standardisierungsgremien. Wenn wir es nicht schaffen diese technische Normierung innerhalb des nächsten Jahres fertigzustellen, drohen vor allem für kleine und mittelgroße Unternehmen immense Compliance-Kosten. Für viele Güterindustrien wird ein wesentlicher Schritt sein jetzt die entsprechend der Hochrisiko KI-Systemkritierien anzupassenden Änderungen des europäischen Produktsicherheitsrechts genau zu verfolgen. So wird es beispielsweise für bestimmte KI-Komponenten, die in Kraftfahrzeugen eingesetzt werden, eine geänderte Typengenehmigung unter ergänzender Referenzierung auf technische Standards zum sicheren Einsatz von produktbezogenen KI-Systemen geben. Das gilt auch für die Luftfahrt-, Schifffahrt- und Eisenbahnindustrie.
Rechtsanwalt Dr. Robert Kilian ist Geschäftsführer des KI-Testing Unternehmens CertifAI, Vorstand beim KI Bundesverband und lehrt KI-Regulierung an der Humboldt-Universität zu Berlin.