Über die Risiken von Legal Tech und KI in der Justiz wird bereits seit
geraumer Zeit diskutiert („Predictive Policing“, „Bias“). Aber der Einsatz dieser Instrumente wirft auch in Rechtsabteilungen und Kanzleien Fragen auf. Diese haben wir Jolanda Rose, Process & Digital Transformation Manager bei Arqis und Co-Gründerin Responsible Innovators, gestellt.
RDi: Was verstehen Sie unter „Digitaler Ethik“ und „verantwortungsbewusster Innovation“?
Rose: Digitale Ethik hat zum Ziel, die Normen und Werte unserer analogen in die digitale Welt zu übertragen. Die Disziplin ist neu und kann deshalb noch nicht trennscharf von anderen Konzepten wie Responsible Research & Innovation (RRI) und Corporate Digital Responsibility (CDR) unterschieden werden. Deshalb spreche ich lieber von verantwortungsbewusster Innovation. Der Begriff umfasst neben der digitalen auch die sozialen und ökologischen Dimensionen von Innovation. Innovation ist dabei mehr als Technologie, sie umfasst alle neuen Ideen und Ansätze, die sich mit den sozialen, ökologischen, (digital-) ethischen, kulturellen und ökonomischen Folgen von neuen Produkten und Ideen auseinandersetzen. Da verantwortungsbewusste Innovation und digitale Ethik noch keinen regulatorischen Rahmen in Unternehmen haben, basieren viele Konzepte auf praxisorientierten Innovationsmethoden, wissenschaftlichen Erörterungen oder politischer Gremienarbeit. Die Bestrebungen eint, dass die Innovation dem Gemeinwohl, also der Gesellschaft als Ganzes dient.
RDi: Warum bedarf es einer digitalen Ethik im Rechtsmarkt?
Rose: Im Vergleich zu anderen Branchen hinkt die Rechtsbranche hinterher, wenn es um verantwortungsvolle, digitale Innovation geht. Dabei ergibt sich hier die besondere Situation, dass Juristen und Juristinnen sowohl Nutzer der neuen Technologien als auch Berater für die damit entstehenden Probleme sein müssen. Bei der ethischen und verantwortungsvollen Optimierung interner Prozesse müssen viele neue Fragen geklärt werden, zum Beispiel: Wie wollen wir die Technologie nutzen? Welche ökologischen Implikationen müssen wir bei der Entwicklung neuer Geschäftsmodelle berücksichtigen? Entspricht unser Modell der Dienstleistungserbringung wirklich den menschlichen und gesellschaftlichen Bedürfnissen? Verantwortungsbewusste digitale Innovation wird eine zentrale Rolle in Legal-Tech- und Legal-Operations-Strategien spielen. Dieser Trend wird etwa durch die DS-GVO, den Digital Services Act, Digital Markets Act und den AI Act begünstigt. Die Liste der Vorschriften ist lang und die in diesen Gesetzen vorgesehenen Sanktionen sind bemerkenswert.
RDi: Welche Bedeutung hat der verantwortungsvolle Einsatz von KI in Rechtsabteilungen?
Rose: Juristen und Juristinnen in der Rechtsabteilung kommt hier eine besondere Rolle zu. Sie sind für die rechtlichen Risiken aller Tools im Unternehmen zuständig, bis klar ist, wer im Unternehmen damit betraut wird. Beim Einsatz von (generativer) KI in Rechtsabteilungen sind vor allem Datenschutz-Compliance und Cybersicherheits-Risiken zu beachten. Jedoch gehen die Risiken bei anderen Tools im Unternehmen über Datenschutzfragen hinaus. Ein Beispiel sind Hiring Tools, die in der Vergangenheit selbst bei anonymisierten Profilen diskriminierend agierten. Hinzu kommt die Automation Bias, also das Phänomen, dass Menschen maschinell, scheinbar objektiv getroffenen Entscheidungen mehr vertrauen als menschlichen. In den USA wird das Risiko solcher Tools so groß eingeschätzt, dass NYC hierfür ein eigenes Gesetz erlassen hat. Ein weiteres Beispiel sind die ESG-Richtlinien des Unternehmens. Verbraucht man durch den Einsatz von (generativer) KI wesentlich mehr Energie, kann das den ESG-Zielen entgegenstehen.
RDi: Und wie sieht es bei Kanzleien aus? Welche Geschäftsfelder können hier zukünftig entstehen?
Rose: Das Risiko beim Einsatz von KI im Bereich Legal Tech ist höher als in anderen Geschäftsbereichen, da die Ethik das Herzstück des Rechts ist und zu den Grundprinzipien der Gerechtigkeit gehört. Wie in Rechtsabteilungen ergeben sich Gefahren in Bezug auf Datenschutz und Cybersicherheit. Auch die ESG-Problematik gilt für Kanzleien. Jedoch besteht besonders beim Einsatz offener generativer KI-Systeme wie ChatGPT das Risiko der Verletzung des Mandatsgeheimnisses. Deshalb sollten solche Tools mit viel Training und Vorsicht geonboarded, nur in der eigenen IT-Umgebung und mit eigenen Daten getestet werden. Außerdem berechnet generative KI statistische Wahrscheinlichkeiten, so dass die Ergebnisse nicht nur diskriminierend, sondern komplett falsch sein können. Daher bedarf es auch in Kanzleien einer Strategie zur Sensibilisierung für digitale Ethik und verantwortungsvolle Innovation. Setzt sich die Kanzlei intern mit diesen Themen auseinander, kann sie aber ihre strategische, juristische Beratung im Bereich verantwortungsbewusste Innovation weiter ausbauen. Wer jetzt vorausschauend handelt, hat einen Marktvorteil und erspart sich doppelte Investitionen.