Eine Umfrage der European Commission for the Efficiency of Justice (CEPEJ) hat ergeben, dass mindestens 15 Mitgliedstaaten des Europarats bereits generative KI an ihren Gerichten einsetzen – sowohl Standard-Tools als auch spezialisierte Anwendungen. KI erhält also zunehmend „ganz offiziell“ Einzug in die europäische Justizpraxis.

Mit den Leitlinien zum KI-Einsatz in der Justiz schlägt die CEPEJ nun einen Rahmen für diese Entwicklung vor. Die darin identifizierten Use-cases – darunter die Erstellung von Zeitstrahlen, von Relationsübersichten und von Textentwürfen – zeigen, dass es beim KI-Einsatz keineswegs nur um die Entlastung von „lästigen Routineaufgaben“ geht, sondern auch der Kernbereich der richterlichen Tätigkeit betroffen sein kann.

Die Leitlinien stellen zu Recht heraus, dass richterliche Entscheidungshoheit und Unabhängigkeit gegenüber KI-Einflüssen stets gewahrt bleiben müssen: KI-Vorschläge dürfen nicht bindend sein oder auch nur eine Rechtfertigungspflicht auslösen. Aber auch der freiwillige, unterstützende Einsatz von KI birgt Risiken wie automation bias und subtile Beeinflussungsmöglichkeiten. Hier schlagen die Leitlinien den Bogen zur KI-Kompetenz: Wer KI-Systeme benutzen möchte, muss vorher die Funktionsweise und die Fehleranfälligkeit der Systeme verstehen lernen.

Anspruchsvoll, aber richtig ist das Bekenntnis der Leitlinien zur Souveränität der Justiz: Daten und Infrastruktur müssen unter staatlicher Kontrolle bleiben. Vorzugswürdig sind spezifisch trainierte, idealerweise lokal betriebene Modelle, deren Algorithmen zudem laufend zu auditieren sind. Der Einsatz der Standard-Tools großer Tech-Unternehmen birgt demgegenüber Datenschutzprobleme und erhöht mangels Zugriffsmöglichkeit auf juristische Datenbanken das Fehlerrisiko.

Ist den Leitlinien bei alldem zuzustimmen, so dürfte andererseits die darin geforderte Transparenz des gerichtlichen KI-Einsatzes, wie etwa die Kennzeichnung aller KI-assistierten Elemente oder der Zugang der Parteien zu KI-generiertem Output, in der Praxis herausfordernd sein. Zudem erscheint die in den Leitlinien geforderte volle Erklärbarkeit sowie die Nachvollziehbarkeit aller reasoning-Prozesse im KI-Modell technisch kaum einlösbar bzw. diese Erklärungen wären für Menschen unverständlich.

Alles in allem sind die Leitlinien ein wertvoller Antwortversuch auf die drängende Frage, für welche Aufgaben und unter welchen Umständen der Einsatz von KI in der Justiz erlaubt und sinnvoll ist. Es ist zu hoffen, dass sie der Debatte auf nationaler wie europäischer Ebene neuen Schwung geben.

Dieser Inhalt ist zuerst in der NJW erschienen. Sie möchten die NJW kostenlos testen? Jetzt vier Wochen gratis testen inkl. Online-Modul NJWDirekt.