Generative KI (oder AI) ist in der Lage, neue Inhalte in Form von Texten, Bildern, Audiomaterial oder Videos zu produzieren. Im EU-AI-Act wird sie nicht explizit genannt, allerdings dürfte es sich dabei in der Regel um General Purpose AI-Systeme im Sinne des Art. 3 handeln. Die OECD definiert generative KI als, wie beschrieben, Inhalte, die in Form von Text, Bild, Audio und Video produziert werden.

Nutzen und Risiken für die Anwaltschaft

Anwender erhoffen sich von generativer KI eine beschleunigte, effizientere Arbeitsweise, umfassendere Recherchen und insgesamt eine bessere Qualität der Arbeit. Auch Anwältinnen und Anwälte greifen auf generative KI zurück, um Kosten zu sparen, Kanzleiressourcen effizienter einzusetzen und um einen stärkeren Fokus auf qualitative statt auf Routineaufgaben zu setzen. Zu einer gewissen Bekanntheit gelangten aber nicht zuletzt Fälle, in denen anwaltliche Schriftsätze Rechtsprechung zitieren, die es nicht gibt. Diese sogenannte Halluzination, also das Auswerfen falscher Ergebnisse, ist nur eines von einer Reihe von Risiken im Umgang mit generativer KI. Daneben stellen sich unter anderem Probleme hinsichtlich des Datenschutzes, des Urheberrechts, der Voreingenommenheit solcher Systeme sowie mit Blick auf mangelnde Transparenz. Generative KI kann Risiken für die Cybersicherheit verstärken und nicht zuletzt zunehmend zu Betrugstaten beitragen, was insbesondere durch Deepfakes, synthetische Identitäten und KI-basierte Scams geschieht.

Generative KI wirkt sich angesichts dieser Risiken auch auf die Einhaltung anwaltlicher Berufspflichten aus. An erster Stelle steht hier die Verschwiegenheit, die in Gefahr sein kann, wenn die Anwendungen eingegebene Inhalte zu Trainingszwecken weiterverwenden, insbesondere wenn andere Kanzleien dann auf die Anwendung zurückgreifen. Persönliche oder vertrauliche Daten sollten daher nicht eingegeben werden, so lange eine entsprechende Weiterverarbeitung nicht ausgeschlossen werden kann. Anwälte müssen ferner über die erforderliche Kompetenz verfügen, wenn sie technische Produkte für ihre berufliche Tätigkeit nutzen. Daher wird zur Teilnahme an Trainings geraten. Ebenfalls gefährdet ist die anwaltliche Unabhängigkeit, insbesondere da, wo Anwendungen voreingenommen sind und sich dies in ihren Ergebnissen auswirkt. Übernehmen Anwälte diese, ohne sie kritisch zu hinterfragen (automation complacency), so ist ihr Rat nicht mehr objektiv und unbefangen. Eine Abhängigkeit kann sich ferner dann entwickeln, wenn nur wenige Anbieter entsprechende Anwendungen bereitstellen. Zudem müssen Anwälte ihren Mandanten gegenüber transparent sein, sollte zu erwarten sein, dass diese Einwände gegen den Einsatz der generativen KI hegen. Darüber hinaus können berufsrechtliche Sanktionen und Klagen drohen, wenn etwa Anwendungen so eingesetzt werden, dass eine Rufschädigung des Anwalts oder gar des Berufsstands droht und die Loyalität zur Mandantschaft infrage steht. Obige Beispiele zitierter Urteile, die nicht existieren, haben sicherlich das Potenzial, zu einer solchen Rufschädigung beizutragen. Daher sollten Ergebnisse, wo nötig, verifiziert sowie Grenzen und Möglichkeiten der Technik umfassend verstanden werden.

Schnelle Reaktion auf rasante Entwicklung

Der CCBE wirft darüber hinaus aber auch einen Blick in die Zukunft und zeigt drastische Szenarien auf: So könnten aufgrund der Abhängigkeit von wenigen Anbietern mit entsprechend dominanter Position die Unabhängigkeit der Anwaltschaft und ihre Selbstverwaltung als solche gefährdet sein. Und erodiert die Professionalität der Anwaltschaft, wenn Aufgaben, die traditionell zu Ausbildungszwecken von jungen Kolleginnen und Kollegen ausgeführt werden, nun durch Maschinen übernommen werden? Können ferner anwaltliche Daten durch KI-Unternehmen derart eingesetzt werden, dass sie künftig die Aufgaben der Anwälte übernehmen – ohne dabei den Berufspflichten zu unterfallen und für die entsprechende Qualität der Leistung im Einzelfall einstehen zu können? Klar ist nur, dass aufgrund der rasanten technischen Entwicklungen Wachsamkeit und eine rasante Reaktion darauf gefragt sind. 

Dieser Inhalt ist zuerst in der NJW erschienen. Sie möchten die NJW kostenlos testen? Jetzt vier Wo­chen gra­tis tes­ten inkl. On­line-Modul NJW­Di­rekt.