Anwaltschaft und KI

RDi: Welche berufsrechtlichen Pflichten gelten, wenn man als Anwalt ChatGPT oder eine andere KI einsetzt?

Kilian: Das Berufsrecht ist technikneutral. Es gilt das ganz normale Pflichtenprogramm, das den Rechtsanwalt in seiner täglichen Arbeit ohnehin bindet. Ob eine Berufspflicht Relevanz beim Einsatz von KI hat, setzt natürlich ein gewisses technisches Grundverständnis dafür voraus, was eigentlich passiert. Letztlich werden weltweit aktuell überall dieselben berufsrechtlichen Themen diskutiert: Die Pflicht zum Erwerb von KI-Kompetenzen, Verschwiegenheit, Outsourcing,  Aufklärungspflichten, Überwachungspflichten. Bei uns sind das, anders als etwa in den USA, nicht alles zwingend berufsrechtliche Themen. Zum Teil geht es eher um Pflichten aus dem Anwaltsvertrag. Zentrales berufsrechtliches Thema ist sicherlich die Verschwiegenheitspflicht – über KI-Tools dürfen nicht versehentlich oder systembedingt sensible Informationen gegenüber Dritten preisgegeben werden. Daher darf hier nicht allzu sorglos vorgegangen werden: Riesige Datenbestände nicht anonymisiert oder pseudonymisiert in eine externe KI einzuspeisen, ist nicht zulässig.

RDi: In welchem Umfang haben Anwälte die Pflicht, die Ergebnisse zu kontrollieren, die die Künstliche Intelligenz anbietet?

Kilian: Letztlich ist der Einsatz eines KI-Tools nicht anders zu beurteilen als die Nutzung menschlicher Assistenz im fachlichen Bereich – Associates, Referendare, wissenschaftliche Mitarbeiter – oder anderer Formen des Supports bei der Erbringung der anwaltlichen Rechtsdienstleistung, etwa durch Tools, die mit Entscheidungsbaumstrukturen arbeiten. Für das, was der Rechtsanwalt seinem Mandanten unterbreitet, haftet er, wie auch immer dieses Produkt zustande gekommen sein mag. Ob man dies im Fall der anwaltlichen Nutzung von KI, wie zum Teil erwogen wird, gleichsam berufsrechtlich aufladen und hieraus einen Verstoß gegen die Pflicht zur Gewissenhaftigkeit aus § 43 S. 1 BRAO konstruieren kann, scheint mir etwas problematisch.

RDi: Welche Hinweispflichten gibt es gegenüber dem Mandanten?

Kilian: Begreift man KI als ein – zweifelsfrei besonders leistungsstarkes – Hilfsmittel des Anwalts, bestehen de lege lata keine spezifischen Hinweispflichten gegenüber dem Mandanten. Zwar wird etwa in den USA erwogen, eine berufsrechtliche Hinweispflicht aus der allgemeinen Pflicht zur Unterrichtung des Mandanten zu mandatsrelevanten Geschehnissen – bei uns in § 11 I BORA geregelt – zu gewinnen. Ich halte das aber nicht für überzeugend.

RDi: Welche weiteren Vorgaben gibt es neben den berufsrechtlichen und vertraglichen Pflichten, zum Beispiel aus der KI-Verordnung?

Kilian: Die KI-Verordnung adressiert mit Blick auf Basismodelle und generative KI ja den Anbieter solcher Systeme, nicht den Betreiber. Grundsätzlich zählen KI-Tools für Kanzleien in der Systematik der KI-Verordnung auch nicht zu Hochrisikosystemen, so dass die dafür geltenden, sehr weitreichenden Pflichten nicht greifen. Es geht dann beim Betrieb von KI-Systemen im Wesentlichen um die Pflicht des Betreibers aus Art. 4 KI-VO, ein ausreichendes Maß an KI-Kompetenz bei den Mitarbeitern sicherzustellen. Ansonsten ist Vieles zugegebenermaßen noch terra incognita: Ist z.B. der Einsatz von KI bei der Erbringung eines höheren Dienstes iSv § 628 BGB eine wesentliche Eigenschaft der Dienstleistung iSv § 312d I BGB, Art. 246a EGBGB, über die ein Verbrauchermandant zu informieren ist? Oder eine wesentliche Information iSv § 5a UWG, die nicht vorenthalten werden darf?

RDi: Bedarf es eigener berufsständischen Regelungen, die auf die Nutzung von KI zugeschnitten sind, wie etwa die American Bar Association sie vorsieht?

Kilian: Das Berufsrecht sollte zurückhaltend sein, sehr spezifische KI-Regelungen zu etablieren. Das allgemeine Berufspflichtenprogramm bietet hinreichend Lösungen, um Herausforderungen zu begegnen. Das schließt nicht aus, punktuell Anpassungen vorzunehmen, um Lücken zu schließen, wie es z.B. vor einigen Jahren bereits mit Blick auf die Nutzung von Cloud-Diensten geschehen ist. Was wir im Ausland sehen, sind eher Guidelines und Handlungsempfehlungen der Berufsorganisationen. Die können nützlich sein, bergen aber wie jedes soft law das Risiko, irgendwann haftungsrechtlich pflichtenbegründend zu wirken. Ich empfehle hier Zurückhaltung.