Eine neue Benchmark-Studie zeigt: Die Mehrheit der KI-Modelle erkennt nicht, wenn juristische Fragen inhaltlicher Blödsinn sind. Für die Rechtsbranche ist das ein ernstes Problem, das aber längst in deutschen Gerichtssälen angekommen ist, schreibt Tobias Voßberg.

Erneut sind einem Gericht frei erfundene Zitate vorgesetzt worden. Das LG Frankfurt am Main gibt sich enttäuscht und zeigte kurzerhand, dass die KI es eigentlich besser kann. 

KI-Halluzinationen, erfundene Fundstellen und ein so unschlüssiger Vortrag, dass das Gericht ihn schlicht für unbeachtlich erklärt: Das reicht normalerweise, um mit wehenden Fahnen unterzugehen. Es sei denn, auch die Gegenseite versagt völlig – so geschehen vor dem OLG Celle.

Anwältinnen und Anwälte, die in ihren Schriftsätzen auf frei erfundene Urteile hereinfallen und sich damit vor Gericht blamieren, gibt es inzwischen häufiger. Doch in den USA wurden jetzt erstmals auch Gerichte beim KI-Einsatz erwischt.