Nach Art. 6 II iVm mit Anhang III Nr. 8 KI-VO-E gelten KI-Systeme, die dazu bestimmt sind, von einer Justizbehörde oder in deren Auftrag eingesetzt zu werden, um der Justizbehörde bei der Erforschung und Auslegung von Tatsachen und Recht sowie bei der Anwendung des Rechts auf einen konkreten Sachverhalt zu unterstützen, als Hochrisiko-KI. Jedes Gericht hat bei der Nutzung von KI-Systemen somit die in Art. 16 ff. KI-VO-E aufgestellten Pflichten zu erfüllen, selbst dann, wenn die Nutzung derselben KI außerhalb der Justiz kaum juristische Konsequenzen nach sich ziehen würde. Ist dann bereits das „Googlen“ von Normen mit nutzerpräferierter Anzeige als hochriskant zu werten?
KI in der Beweisführung im Auftrag der Justiz?
Etwas ernsthafter stellt sich die Frage, welcher genaue KI-Einsatz in der Justiz von Anlage III Nr. 8 KI-VO-E erfasst sein soll. Genügt danach etwa auch ein mittelbarer Einsatz von KI im Gerichtsverfahren, damit die Pflichten für Hochrisiko-KI-Systeme ausgelöst werden? Zu denken ist etwa an Sachverständige, die KI für die Erstellung ihrer Gutachten für das Beweisverfahren, etwa im Zuge der Unfallrekonstruktion oder einer Risikoprognose, nutzen. Dies hängt davon ab, ob der Einsatz der KI "im Auftrag" der Justiz erfolgt. Inwiefern ein richterlicher Beschluss zur Einholung eines Sachverständigengutachtens ebenfalls einen Auftrag zur (die Erkenntnisbasis optimierenden) Nutzung eines KI-Systems (gewissermaßen: nach dem Stand von Wissenschaft und Technik, unter Beachtung modernster Erkenntnismittel) beinhaltet oder etwa vielmehr nur als Auftrag zur Beweiserbringung unabhängig von der Methodik anzusehen ist, ist bisher unbeantwortet. Es kommt auf eine Auslegung des Anhangs III Nr. 8 KI-VO-E an. Für die Verwertbarkeit von Beweismitteln ist dies ein unbefriedigender Zustand – besteht doch nunmehr das Dilemma, dass entweder den Anforderungen der KI-VO nicht genügt wird oder eine optimale KI-gestützte Beweisaufnahme "aus Compliance- bzw. Haftungsgründen" unterbleibt. Zudem stellt sich die Folgefrage: Sind die strengen Anforderungen der KI-Verordnung revisionsrelevant?
Ausnahme gem. Art. 6 IIa KI-VO-E
Aber Rettung naht. Die pauschale Wertung des KI-Einsatzes in der Justiz als Hochrisiko-KI-System könnte durch die auf den letzten Metern neu in den Entwurf der KI-Verordnung eingefügte Ausnahme des Art. 6 IIa KI-VO-E relativiert werden: Demnach gelten KI-Systeme unabhängig von deren Auflistung in Anlage III nicht als hochriskant, wenn sie kein erhebliches Risiko für die Gesundheit, Sicherheit oder die Grundrechte darstellen, auch dann nicht, wenn sie das Ergebnis einer Entscheidungsfindung wesentlich beeinflussen. Soll etwa das KI-System "eine vorbereitende Aufgabe für eine Bewertung übernehmen" (Art. 6 IIa 2 lit. d KI-VO-E), gilt es als nicht hochriskant. Damit kommt es zum "Schwur": Welchen Einfluss nehmen KI-Systeme auf die Beweiswürdigung in Sachverständigengutachten und diese wiederum auf die Entscheidungsfindung der (menschlichen!) Richter?
Ausblick
Wie auch immer man den KI-Einsatz im Justizkontext werten wird (hier wird die Praxis Maßstäbe finden) – Beweisverfahren werden künftig komplexer und werfen Vorfragen auf, die nicht unbeantwortet bleiben dürfen: Wie verteilen sich die Anteile der Entscheidungsfindung zwischen Mensch und KI-System? Wie frei ist die Beweiswürdigung in Anbetracht stochastischer Methoden, die vielleicht aktuell noch probate Zweifel hervorrufen könnten, in der abzusehenden Weiterentwicklung aber (wie seinerzeit die DNA-Auswertung im Strafprozess) unumgänglich werden dürfte? Nicht zuletzt als Ausfluss einer grundrechtlich garantierten Rechtsschutzgarantie.
Bei der Auslegung der Vorschriften der KI-VO gilt auch der europarechtliche Grundsatz des effet utile, der optimalen Wirkungskraft des Rechtsakts. Die KI-VO soll nämlich den Einsatz von KI im Sinne ihrer Potenziale stärken und nicht vermeiden. Dies zeigt auch gerade Art. 6 IIa KI-VO-E. Es bleibt zu hoffen, dass der KI-VO das Schicksal der DS-GVO erspart bleibt, deren Intention als Datenverkehrsordnung (Art. 1 I und III DS-GVO) erst Jahre nach ihrem Inkrafttreten in der Datenschutzpraxis wahrgenommen wird. In diesem Sinne: Keine Angst vor KI … auch nicht vor der KI-VO!
Prof. Dr. Anne Paschke ist Professorin für Öffentliches Recht, Technikrecht und Recht der Digitalisierung sowie Direktorin des Instituts für Rechtswissenschaften an der TU Braunschweig; Pauline Fellenberg ist wiss. Mitarbeiterin am Institut und Geschäftsführerin der Forschungsstelle Mobilitätsrecht.
Dieser Beitrag stammt aus der NJW.
Sie möchten die NJW kostenlos testen? Jetzt vier Wochen gratis testen inkl. Online-Modul NJWDirekt.
