Auf der Legal Revolution in Würzburg ging es fast ausschließlich um KI und die möglichen Folgen für die anwaltliche oder juristische Tätigkeit. Was die Zukunft wirklich bringen wird, konnte aber nicht mal Richard Susskind sagen, obwohl er doch der Klügste unter uns ist. Immerhin: anders wird es.
Aber für heute können wir schon etwas sagen, Stichwort Halluzinationen: Während sich im Ausland die Fälle mehren, in denen Gerichte harsche Disziplinarmaßnahmen gegen Anwälte verhängen, wenn diese halluzinierte Schriftsätze einreichen, wurde hierzulande nur vom AG Köln und vom OLG Celle berichtet, die sich damit befassen mussten. Die Celler Entscheidung ist dabei besonders interessant, weil man aus den Urteilsgründen einen möglichen Prompt rekonstruieren kann. Wenn man damit eine Recherche bei den allgemeinen Sprachmodellen durchführt, wird man feststellen, dass diese keine einzige richtige Fundstelle liefern. Bei den speziell für Juristen angebotenen Tools sind die Ergebnisse schon besser, erfordern aber auch Nachkontrolle.
Anwälten hierzulande passiert allerdings nichts, wenn ihnen solche „Fehler“ unterlaufen. Vielleicht eine mahnende Bemerkung im Urteil, aber wer liest das schon, und bei einer Veröffentlichungsquote von <5% fällt viel unter den Tisch. Auch bei den schlagzeilenträchtigen Sachverhalten erfährt man nichts über Ross und Reiter, da stehen Persönlichkeits-und Datenschutz vor.
Andere Länder, andere Sitten. Englische Gerichte haben nach der Hamid jurisdiction, die auf der eigenen Rechtsprechung beruht, weitreichende Disziplinarbefugnisse gegenüber Anwälten, und davon machen sie auch Gebrauch. Alles mit Namensnennung, mit öffentlicher Kritik in no unclear terms an Kollegen, die vorsätzlich oder fahrlässig erfundene Präzedenzfälle eingereicht haben. Bei der Lektüre solcher Gerichtsentscheidungen bleibt kein Auge trocken. Über einen australischen Richter wurde gemeldet, dass er einem Anwalt aus generalpräventiven Erwägungen die weitere selbstständige Berufspraxis verboten hatte. Aus den USA wurde von einer Disziplinarstrafe berichtet, der Anwälte nur entgehen konnten, indem sie sich zu landesweiten Canossagängen und anderen Bußveranstaltungen verpflichteten, wozu sie sich allerdings auch gleich bereiterklärten. Die dahinterliegende Theorie lautet reintegrative shame, also die öffentliche Beschämung mit anschließender Wiedereingliederung in die Gesellschaft. Zuletzt rügte ein US-Richter Anwälte, weil sie die halluzinierten Entscheidungen, die von der Gegenseite eingereicht wurden, pflichtwidrig nicht überprüft und das Gericht nicht entsprechend aufmerksam gemacht hatten.
Der Wake Up Call für uns Juristen lautet daher: Trau keiner KI, auch wenn sie noch so verführerisch daherkommt. Halluzinationen sind die Regel, nicht die Ausnahme (oder im KI-Deutsch: It’s not a bug, it’s a feature). Geht es um juristische Inhalte, geht es nicht ohne menschliche Kompetenz, eigentlich eine gute Nachricht.
Markus Hartung ist Rechtsanwalt und Mediator in Berlin