Rechtsberatung durch KI-Chatbots effektiv regeln, nicht verbieten

I. New York macht es vor, es geht aber besser

KIR 2026, 133   Im Staat New York liegt ein Gesetzentwurf auf dem Tisch, über den in Kürze abgestimmt werden könnte (Senate Bill S7263) und der eine einfache Frage stellt: Was passiert eigentlich, wenn ein Chatbot anfängt, sich wie ein Anwalt zu benehmen  – aber keiner ist? Die Antwort des Entwurfs: Der Anbieter des Chatbots haftet dem Nutzer auf Ersatz des tatsächlich entstandenen Schadens. Der Hintergrund: Nach New Yorker Recht ist es für Menschen strafbar, ohne Bar Admission Rechtsrat zu erteilen oder als Anwalt aufzutreten. Anscheinend ist es aber schwierig, das gegenüber den Anbietern dieser KI-Chatbots durchzusetzen. Rechtsvergleichend ist das aufschlussreich: In Deutschland ist die unerlaubte Rechtsberatung nur eine Ordnungswidrigkeit. S7263 knüpft an bestehende strafbewehrte Verbote unerlaubter Berufsausübung an, schafft für Chatbot-Betreiber aber vor allem einen ausdrücklichen zivilrechtlichen Haftungspfad. Ob und inwieweit sich bestehende Verbote von Rechtsberatung durch Nichtanwälte schon heute ohne Weiteres auf generative Chatbots und ihre Betreiber durchsetzen lassen, ist offenkundig unklar – und deswegen sieht der Gesetzentwurf eben Klarstellungen vor. S7263 würde den Weg für private Schadensersatzklagen in New York eröffnen, der anscheinend bisher entweder nicht offenstand oder nicht leicht zu beschreiten war. Daneben kann in New York auch die behördliche Aufsicht tätig werden – Attorney General (Justizminister/ Justizbehörde) oder Staatsanwaltschaft, je nachdem.

II. Nicht nur Rechtsberatung

Der Entwurf richtet sich nicht nur gegen juristische KI-Auskünfte. Das New Yorker Berufsrecht fasst unter einem Dach zusammen, was bei uns auf dutzende Gesetze verteilt ist: Medizin und Pharmazie, Ingenieur- und Architekturberufe, Psychologie – und eben auch die Rechtsberatung. Im Kern handelt es sich bei dem New Yorker Vorschlag nun also nur um die erneute Bekräftigung des bereits bestehenden Verbots, Chatbots substanzielle Auskünfte in regulierten Berufsfeldern erteilen zu lassen, nunmehr flankiert von einem zivilrechtlichen Klagerecht der Geschädigten auf tatsächlichen Schadensersatz für den Fall, dass die Anbieter – OpenAI, Anthropic, Microsoft, Google etc. – es trotzdem tun. Und: Disclaimer, die einer globalen Enthaftung dienen sollen, sollen ausdrücklich für unwirksam erklärt werden.

Im Hintergrund steht dabei die Möglichkeit der Class Actions, die solche Ansprüche in den USA massiv bündeln können. In Deutschland fehlt ein vergleichbares Instrument im Wesentlichen noch immer – auch wenn es zuletzt Verbesserungen gab. Entscheidend ist aber: Der Gesetzentwurf soll die zivilrechtliche Haftung der Anbieter erleichtern. Das könnte auch in Deutschland ein Vorbild sein. Denn auch hier wäre das Problem (wenn man Rechtsberatung durch Chatbots als Problem sieht, to be discussed…) weniger eine Regelungslücke als eine Durchsetzungslücke. Allerdings ist der Standard auch in New York hoch: Strafbar ist nicht jede Äußerung zu Rechtsfragen, sondern das Auftreten oder Erscheinen als Anwalt – practice or appearance as an attorney-at-law. Ein Chatbot, der erklärt, er sei kein Anwalt, könnte sich also darauf berufen, gar nicht als Anwalt aufgetreten zu sein. Das könnte ein Schlupfloch sein. Der Entwurf knüpft aber nicht nur an ein bloßes Auftreten als Anwalt an, sondern geht darüber hinaus, indem er Anbietern untersagt, Chatbots substanzielle Antworten, Informationen oder Ratschläge in regulierten Berufsfeldern erteilen zu lassen. Und deswegen würde der New Yorker Entwurf entsprechende Disclaimer für haftungsrechtlich wirkungslos erklären – das ist konsequent. Viele Chatbots tun genau das: substanziell beraten und gleichzeitig beteuern, sie täten es nicht. In Deutschland wäre das nach dem Grundsatz falsa demonstratio non nocet ohnehin unbeachtlich. Das Verbot widersprüchlichen Verhaltens steht dem ebenfalls entgegen: Wer faktisch Rechtsberatung erbringt, kann sich eben nicht durch Disclaimer davon scheinbar distanzieren. Hinzu kommt die AGB-Kontrolle: Disclaimer in AGB, die eine gesetzliche Haftung für Rechtsdienstleistungen umgehen sollen, können als AGB-widrige Umgehungsklauseln unwirksam sein. Sowohl in den USA als auch in Deutschland geht es am Ende aber nicht allein darum, ob der Chatbot sich als Anwalt geriert hat oder nicht. Denn offenkundig schaffen es weder die Behörden in New York noch die Rechtsanwaltskammern oder das Bundesamt für Justiz in Deutschland, entsprechende Verbote durchzusetzen – Kammern und Wettbewerber scheinen sich nicht zu trauen, nach dem UWG vorgehen zu wollen – in der Praxis schadet erst der falsche Rechtsrat, auf den sich der Nutzer verlassen hat. Die New Yorker wollen hier die Haftungsdurchsetzung erleichtern. Das könnte auch in Deutschland überlegt werden.

III. Warum das für Deutschland interessant ist

S7263 erfasst – wie beschrieben – nicht nur die Rechtsberatung, sondern sämtliche lizenzierte Professionen. In den meisten dieser Berufsfelder ist der europarechtliche Rahmen bereits so eng gezogen, dass dem deutschen Gesetzgeber wenig Spielraum bleibt. Bei der Rechtsberatung ist das anders. Der EuGH hat in der Halmer-Entscheidung (Rs. C-295/ 23, Rn. 72) im Dezember 2024 jedenfalls allgemein bestätigt, dass den Mitgliedstaaten mangels Harmonisierung der anwaltlichen Berufs- und Standesregeln ein erheblicher Regelungsspielraum verbleibt. Daraus lässt sich ein Spielraum auch für nationale Antworten auf KI-gestützte Rechtsberatung ableiten.

Die KI-Verordnung der EU regelt anwaltliche Tätigkeit nicht berufsrechtlich im engeren Sinne; für typische Chatbot-Konstellationen stehen allerdings derzeit vor allem Transparenz- und allgemeine AI-Act-Compliance-Fragen im Vordergrund, nicht eine spezifische unionsrechtliche KI-Rechtsberatungsordnung. Anders wäre es nur, wenn der Einsatz von KI durch eine Kanzlei als Hochrisiko-KI-System einzustufen wäre – das ist aber nur in spezifischen Fällen so, nicht generell. Sollte man in der BRAO oder dem RDG klarstellen, ob und wann der Einsatz von KI unerlaubte Rechtsberatung ist? Aber ist das nicht längst klar? Naja… Auf Fachtagungen wird das Thema „Rechtsberatung durch KI“ mit Interesse diskutiert. Alle wissen, dass manchmal die Chatbots eben doch auch nach deutschem Recht Rechtsberatung machen – aber wann? Und wenn schon, machen sie es nicht nur in den Bereichen, in denen die deutsche Anwaltschaft längst das Feld geräumt hat, weil die Streitwerte zu gering sind, um davon zu leben? Würde eine strikte Durchsetzung des RDG gegen Chatbots nicht dazu führen, dass es weniger Zugang zum Recht gibt als bisher, da der Rechtsmarkt sich schon an die Rechtsberatung durch Chatbots gewöhnt hat?

IV. Was eigentlich passiert

Derweil passiert draußen das, was auf den Konferenzen nur theoretisch besprochen wird. Die Leute gehen zu ChatGPT. Die Antworten sind erstaunlich oft brauchbar. Manchmal sind sie falsch. Die wenigen halluzinierten Rechtsauskünfte, die in sozialen Medien Aufsehen erregen, sind eben dies: wenige, gemessen an der Masse brauchbarer Orientierung. Selbstverständlich wird nun von Nicht-Juristen (und manchmal leider auch von Anwälten…) vor Gericht oder bei Behörden auch durch KI generiertes falsches und querulatorisches Zeug eingereicht – aber das kam und kommt auch ohne KI vor. Nur ist jetzt vielleicht doch dank KI oft etwas Besseres als vorher dabei.

Das Problem ist nicht, dass KI Rechtsrat gibt. Das Problem ist, dass derzeit niemand, kein BigTech, haftet, wenn der Rat falsch ist – faktisch jedenfalls. Juristisch ließe sich durchaus argumentieren, dass ein allgemeiner Chatbot-Anbieter (also kein spezialisierter Legal-AI-Provider), der über sein System Verbrauchern Rechtsrat erteilt, damit gegen das Rechtsdienstleistungsgesetz verstößt – wenn es denn wirklich Rechtsberatung ist, was der Chatbot macht – und dann auch für Schlechtberatung haftet. Aber man versuche einmal, das durchzusetzen. Schon der Nachweis, dass tatsächlich eine Rechtsdienstleistung stattgefunden hat, ist schwierig. Dass diese dann auch noch fehlerhaft war, muss der Geschädigte belegen. Und selbst wenn ihm beides gelingt: Soll er in Irland klagen, am Sitz der europäischen Niederlassung von OpenAI? Möglicherweise fehlt es nicht einmal am Gerichtsstand – aber man sollte es dem Verbraucher ersparen, das erst bis zum EuGH durchklagen zu müssen. Wichtiger noch: Es fehlt an einer materiellrechtlichen Anspruchsgrundlage und an der praktischen Durchsetzbarkeit – Beweislast, Streit wert. Das rationale Verhalten des Geschädigten ist es bei kleinen Streitwerten, das zu lassen. Und genau das passiert.

V. Klarstellung und Erleichterung der Haftung statt Verbot

Wie wäre es mit einer Regelung nicht als Verbot nach New Yorker Vorbild – das würde den Zugang zum Recht für Millionen Menschen abschneiden, die heute keinen Anwalt fragen können oder wollen und auf KI angewiesen sind. Sondern als klarstellende und für Verbraucher leichter zugängliche Haftungsnorm: Wer KI-Rechtsauskünfte anbietet, muss für deren Richtigkeit einstehen wie ein Anwalt für seinen Rat – das ist im Grunde jetzt schon so – aber es bleibt die Frage, ob überhaupt ein Rechtsberatungsdienstleistungsvertrag zwischen Chatbot-Nutzer und Chatbot-Betreiber geschlossen wird. Das ließe sich mit einer gesetzlichen Klarstellung elegant umgehen, um den Verbraucher zu schützen. Aber einklagbar muss der Anspruch am Wohnsitz des Geschädigten sein – nicht in Kalifornien, nicht in Irland, nicht am Sitz irgendeiner europäischen Niederlassung. Diese Ansprüche müssten so ausgestaltet sein, dass sie per AGB weder abbedungen werden können noch deren Abtretung ausgeschlossen werden kann, sodass Prozessfinanzierer sie bündeln könnten. Das Verbraucherrechtedurchsetzungsgesetz (VDuG) könnte dabei unter Umständen helfen. Das würde dafür sorgen, dass nicht der einzelne Geschädigte gegen OpenAI prozessieren muss – sondern die Verbraucher-KI-Plattformen in Deutschland rechtlich greifbar werden und so den klaren Anreiz haben, ihre Antworten zu verbessern.

Was ist mit Unternehmen, die glauben, sie könnten mit simpler Verbraucher-KI wie ChatGPT ihren Anwalt oder Syndikus ersetzen? Die sind erwachsen und wirtschaftlich kundi– die brauchen keinen weiteren Schutz. Wenn sie schlechten Rechtsrat erhalten, müssen sie weiterhin sehen, wie sie den Schaden liquidieren; gegebenenfalls sollten sie eben besser zum Anwalt gehen. Das Gesetz müsste also klarstellen, dass diese Erleichterungen nur für Verbraucher gelten: Gerichtsstand in Deutschland, Unwirksamkeit von Disclaimern (es gibt ja welche, die lächerlicherweise behaupten, ein Verbraucher-KI-Chatbot diene nur der Unterhaltung oder Ähnlichem – obwohl die Anbieter genau wissen, dass ihre Nutzer das tatsächlich für gelegentlichen Rechtsrat verwenden), gegebenenfalls auch eine Beweislastumkehr – jedenfalls wenn ein Schaden eingetreten ist. Den KI-Anbietern geschieht damit kein Unrecht: Wer ein System betreibt, das (halb-)automatisch Rechtsauskünfte erteilt, muss auch automatisch erkennen können, wenn Nutzer sich darauf verlassen und Gefahr laufen, durch Falschberatung geschädigt zu werden. So wird erreicht, dass die generellen Anbieter dafür sorgen müssen, dass weniger Schaden durch schlechten Rechtsrat entsteht – indem das System erkennt: vulnerabler Kunde, Rechtsrat könnte bei Falschheit enormen Schaden anrichten – und sich dann eben weigert, weiterzumachen. Den Anwälten wird nichts weggenommen – denn die Nutzer verwenden Chatbots überwiegend in Bereichen, in denen sie ohnehin nicht zum Anwalt gehen würden.

VI. KI für Anwälte ist OK.

Den neuen professionellen Anbietern juristischer KI, die rechts- und berufsrechtskonform arbeiten, wird ebenfalls keine Haftungserschwerung aufgebürdet: Ihre Kunden sind Profis und regelmäßig Kanzleien und Rechtsabteilungen von Unternehmen, für die diese Haftungsnormklarstellung gar nicht gedacht ist. Anwälte, die KI einsetzen, haften ohnehin selbst, können den Output fachkundig beurteilen und sind berufsrechtlich bereits verpflichtet, ihn zu überwachen. Auch nach der New Yorker Regelung fallen Chatbots, die direkt von Kanzleien oder Anwälten eingesetzt werden, nicht darunter – denn dort behauptet das System nicht, ein Anwalt zu sein, und tritt auch nicht als solcher auf, sondern ist nur ein Werkzeug bei der erlaubten Rechtsberatung durch Anwälte. Das ergibt sich schon aus der Logik des Gesetzes. Wenn man das alles in Deutschland alles deutlicher regeln wollte, sollte man das vielleicht auch einmal klarstellen: Es geht um die ChatGPTs dieser Welt für Verbraucher – die Systeme, die auf den Upload von Dokumenten samt der die Frage „Kann mein Vermieter/Arbeitgeber mich rauswerfen?“ eine ggf. richtige Antwort geben („Nein, denn…“), als wäre es das Selbstverständlichste der Welt. Ist es vielleicht auch. Aber dann muss jemand wirklich dafür einstehen, wenn es falsch ist.

Wenn Maschinen klug genug sind, juristische Ratschläge zu formulieren, wird die Rechtsordnung die Frage nicht umgehen können, wer effektiv und zügig für deren Richtigkeit einsteht.