NJW: Herr Professor Kilian, welche berufsrechtlichen Pflichten gelten, wenn Anwälte ChatGPT oder eine andere KI einsetzen?
Kilian: Das Berufsrecht ist technikneutral, es gilt das ganz normale Pflichtenprogramm, das den Rechtsanwalt in seiner täglichen Arbeit ohnehin bindet. Ob eine Berufspflicht Relevanz beim Einsatz von KI hat, setzt natürlich ein gewisses technisches Grundverständnis dafür voraus, was eigentlich passiert. Letztlich werden weltweit aktuell dieselben berufsrechtlichen Themen diskutiert: die Pflicht zum Erwerb von KI-Kompetenzen, Verschwiegenheit, Outsourcing, Aufklärungs- und Überwachungspflichten. Bei uns sind das, anders als etwa in den USA, nicht alles zwingend berufsrechtliche Themen. Zum Teil geht es eher um Pflichten des Rechtsanwalts im Rahmen seiner zivilrechtlichen Haftung aus dem Anwaltsvertrag.
NJW: Dann lassen Sie uns zunächst einmal über die berufsrechtlichen Themen sprechen.
Kilian: Zentrales berufsrechtliches Thema ist sicherlich die Verschwiegenheitspflicht – über KI-Tools dürfen nicht versehentlich oder systembedingt sensible Informationen gegenüber Dritten preisgegeben werden. Zwar können nach § 43e BRAO dem Berufsgeheimnis unterfallende Daten im Rahmen des „non-legal-outsourcing“ sorgfältig ausgewählten Dienstleistern zugänglich gemacht werden. Allerdings besteht die Befugnis nur mandatsbezogen und nur, soweit sie dem „need to know“-Prinzip entspricht. Daher darf hier nicht allzu sorglos vorgegangen werden: Riesige Datenbestände nicht anonymisiert oder pseudonymisiert in eine externe KI einzuspeisen, ist unzulässig. Und eine wirkliche Anonymisierung ist auch mit Einsatz entsprechender technischer Hilfsmittel nicht immer leicht zu bewerkstelligen.
NJW: In welchem Umfang sind Anwälte verpflichtet, die von der KI generierten Ergebnisse zu kontrollieren?
Kilian: Letztlich ist der Einsatz eines KI-Tools nicht anders zu beurteilen als die Nutzung menschlicher Assistenz im fachlichen Bereich – Associates, Referendare, wissenschaftliche Mitarbeiter – oder einer anderen Form des Supports beim Erbringen der anwaltlichen Rechtsdienstleistung, etwa in Form von Tools, die mit Entscheidungsbaumstrukturen arbeiten. Für das, was der Anwalt seinem Mandanten unterbreitet, haftet er, wie auch immer dieses Produkt zustande gekommen sein mag. Ob man dies im Fall der anwaltlichen Nutzung von KI, wie zum Teil erwogen wird, gleichsam berufsrechtlich aufladen und hieraus einen Verstoß gegen die Pflicht zur Gewissenhaftigkeit aus § 43 S. 1 BRAO konstruieren kann, scheint mir etwas problematisch.
NJW: Welche Hinweispflichten gibt es gegenüber dem Mandanten?
Kilian: Begreift man KI als ein – zweifelsfrei besonders leistungsstarkes – Hilfsmittel des Rechtsanwalts, bestehen de lege lata keine spezifischen Hinweispflichten gegenüber dem Mandanten. Zwar wird etwa in den USA diskutiert, eine berufsrechtliche Hinweispflicht aus der allgemeinen Pflicht zur Unterrichtung des Mandanten zu mandatsrelevanten Geschehnissen – bei uns in § 11 I BORA geregelt – zu gewinnen. Ich halte das aber nicht für überzeugend. Antworten, etwa mit Blick auf die erforderliche Sorgfalt bei der Kontrolle von Ergebnissen oder dem vorangegangenen Prompting, muss hier das Haftungsrecht geben.
NJW: Welche weiteren Vorgaben bestehen neben den berufsrechtlichen und vertraglichen Pflichten, etwa aus der KI-Verordnung?
Kilian: Die KI-Verordnung adressiert mit Blick auf Basismodelle und generative KI ja den Anbieter solcher Systeme, nicht den Betreiber. Grundsätzlich zählen KI-Tools für Kanzleien in der Systematik der KI-Verordnung auch nicht zu Hochrisikosystemen, so dass die für solche Systeme geltenden, sehr weitreichenden Pflichten nicht greifen. Es geht dann beim Betrieb von KI-Systemen im Wesentlichen um die Pflicht des Betreibers aus Art. 4 KI-VO, ein ausreichendes Maß an KI-Kompetenz bei den Mitarbeitern sicherzustellen. Ansonsten ist Vieles zugegebenermaßen noch terra incognita: Ist etwa der Einsatz von KI bei der Erbringung eines höheren Dienstes im Sinne von § 628 BGB eine wesentliche Eigenschaft der Dienstleistung im Sinne von § 312d I BGB, Art. 246a EGBGB, über die ein Verbrauchermandant zu informieren ist? Oder eine wesentliche Information im Sinne von § 5a UWG, die nicht vorenthalten werden darf? Diese Fragen wird die Rechtsprechung zu klären haben.
NJW: Was heißt es für die Vergütung, wenn Mandate mit Hilfe von KI wesentlich schneller bearbeitet werden können? Stirbt der Stundensatz diesmal wirklich?
Kilian: Es ist richtig, dass das Ende des Zeithonorars immer wieder vorausgesagt wurde und dann jeweils doch der schöne Spruch von Mark Twain galt: „Reports of my death have been greatly exaggerated.“ So war es in den 1990 er Jahren im Zuge der Computerisierung von Kanzleien, in Zeiten wirtschaftlicher Krisen wie der Finanzkrise 2008 oder beim Aufkommen erster Legal-Tech-Anwendungen vor rund zehn Jahren. Jetzt scheint mir die Lage aber doch anders zu sein: Denn Wandlungsprozesse der Vergangenheit haben die Art und Weise, wie juristische Arbeit geleistet wird, nicht grundlegend verändert, sie haben sie lediglich effizienter gemacht. Kanzleien haben deshalb adaptive Resilienz an den Tag gelegt: Sie konnten Veränderungen ohne grundlegende Umgestaltung ihres Geschäftsmodells bewältigen und hierbei sogar noch Effizienzgewinne realisieren. KI-assistierte Rechtsdienstleistungen verändern aber das Verhältnis von Zeit, Aufwand und Wertschöpfung grundlegend, denn es kommt zu einer Entkopplung von Zeit und Wert: Frühere technologische Fortschritte rationalisierten bestehende Prozesse, KI-assistierte Rechtsdienstleistungen setzen hingegen beim primären Engpass bei der juristischen Analyse, der menschlichen kognitiven Verarbeitung, an. Es wird also neue Vergütungsmodelle geben müssen, die dies berücksichtigen und mit Messgrößen arbeiten, die den Wert von KI-gestützten Rechtsdienstleistungen fair abbilden. Über kurz oder lang wird es mehr Pauschalvergütungen oder partiell technikbasierte Vergütungsmodelle geben.
NJW: Gibt es derzeit eine Pflicht zur Nutzung von KI? Und falls nicht: Können Sie sich vorstellen, dass eine solche in naher Zukunft kommt?
Kilian: Aktuell sehe ich eine solche Pflicht noch nicht. Welche Hilfsmittel ein Rechtsanwalt nutzt, um seine Leistung zu erbringen, ist ihm überlassen. Ob er in die neueste Auflage des Grüneberg investiert, bestimmte Module in beck-online abonniert oder generative Künstliche Intelligenz nutzt, ist letztlich eine Frage seines persönlichen Risikomanagements. Das haftungsrechtliche Pflichtenprogramm des Rechtsanwalts ist vom BGH ja schon in Zeiten vor KI extrem streng – um nicht zu sagen: irreal – ausgeformt worden. Da kommt es, wenn ich etwas salopp formulieren darf, auf KI auch nicht mehr an.
NJW: Bedarf es berufsständischer Regelungen, die auf die Nutzung von KI zugeschnitten sind, wie etwa die American Bar Association sie vorsieht?
Kilian: Das Berufsrecht sollte zurückhaltend sein, sehr spezifische Regelungen zu etablieren, die auf KI-Tools zugeschnitten sind. Wir sollten den Einsatz von KI mit Blick auf das Berufsrecht auch nicht überhöhen – es geht am Ende um eine KI-assistierte anwaltliche Rechtsdienstleistung. Das allgemeine Berufspflichtenprogramm bietet meines Erachtens gegenwärtig hinreichend Lösungen, um Herausforderungen zu begegnen. Das schließt nicht aus, punktuell Anpassungen vorzunehmen, um Lücken zu schließen, wie es beispielsweise vor einigen Jahren bereits mit Blick auf die Nutzung von Cloud-Diensten geschehen ist. Was wir im Ausland sehen, sind eher Guidelines und Handlungsempfehlungen der Berufsorganisationen. Die können nützlich sein, bergen aber wie jedes soft law das Risiko, irgendwann haftungsrechtlich pflichtenbegründend zu wirken. Ich empfehle hier Zurückhaltung.
Bereits in seiner Dissertation von 2003 beschäftigte sich der langjährige Direktor des Instituts für Anwaltsrecht an der Universität zu Köln, Prof. Dr. Matthias Kilian, mit einem Thema zum anwaltlichen Berufsrecht. Im selben Jahr wurde er zum Direktor des Soldan Instituts berufen, das sich mit empirischer Berufsforschung befasst. Er publiziert in zahlreichen Standardwerken zum Berufsrecht der Rechtsanwälte, Notare, Steuerberater, Wirtschaftsprüfer, Mediatoren und Ärzte und vertritt das deutsche Berufsrecht international. Seit 2022 ist er Präsident der International Association of Legal Ethics, der internationalen Fachvereinigung für Berufsrecht. Für seine Forschungstätigkeit wurde Kilian mehrfach ausgezeichnet.
Dieser Inhalt ist zuerst in der NJW erschienen. Sie möchten die NJW kostenlos testen? Jetzt vier Wochen gratis testen inkl. Online-Modul NJWDirekt.
