NJW Editorial  

Heft 9/2020


Code is Law  

Es ist zwei Jahrzehnte her, dass der in Harvard lehrende US-Verfassungsrechtler Lawrence Lessig mit seiner hellseherischen Publikation „Code and Other Laws of Cyberspace“ die einprägsame Sequenz „Code is Law“ in die Runde geschleudert hat. Heute muss man konzedieren, dass wir in der internationalen Rechtsdiskussion wenig weiter gekommen sind. Es stimmt schon: Seine Ausgangsthese ist richtig. Sie entwickelt zu haben, war ein augenöffnender Verdienst. Im Wesentlichen setzt er der klassischen werteorientierten Gesellschaftssteuerung namens Recht („East Coast Code“) eine pur algorithmische Lebenssteuerung entgegen, die er als „West Coast Code“ bezeichnet. Und er hat erstmals den Finger auf die furchteinflößende Wunde gelegt, dass freiheitliche Rechtsverankerung wenig nützt, wenn sie in der Algorithmus-Programmierung verschwindet. Wir machten es uns also zu einfach, wenn wir Recht für eine Abfolge binärer Entscheidungen hielten, die es in Programmzeilen nur abzubilden gelte. Wertungsbedürftige Abwägungen sind eine komplexe Balance zwischen verschiedenen Leitinteressen. Da wird auch kein Quantencomputer helfen.

Und beim ernüchternden Code is Law stehen wir noch heute, ohne methodische Fortschritte: Wir bekommen ethische Vorgaben entweder in das Programm oder in den Programmierer. Tertium non datur. Bei Letzterem ist der Ruf nach einem Hippokratischen Eid für Programmierer nie über eine kauzige Schlagzeile hinausgekommen. Debatten um ethische Selbstverpflichtungen werden zu wenig geführt, lassen das gravierende Problem kultureller Unterschiede außen vor und sind auch sicherheitspolitisch belächelt. Die Diskussion über freiheitliche und ethische Garantien im Code selbst tritt ebenfalls auf der Stelle. Kann es wirklich jemals eine Art „Algorithmus-TÜV“ geben? Welche Superbehörde soll all jene Algorithmen prüfen und freigeben, die nicht nur Handlungen digitalisieren, sondern auch bisher menschliche Entscheidungen? Umgekehrt gilt auch: Wenn es diese Superbehörde, diesen Freigabeprozess für algorithmusgetriebene Entscheidungen nicht gibt, so gehen alle diese Codes ungeprüft in die freie Wildbahn.

Wenn Code Law ist, wer ist dann der Richter? Diese Frage bleibt eine große zivilisatorische Herausforderung, bei der wir Juristen uns noch keinen entscheidenden Meter bewegt haben. Bei immer bedeutsameren Ex-Menschenentscheidungen, die auf Algorithmen übertragen werden können, werden wir ihr nicht mehr lange ausweichen können. Ob beim autonomen Fahren im Havariefall, bei Operations-Robotern im medizinischen Grenzfall oder bei Beförderungsalgorithmen in der Personalabteilung – was programmiert wird, wird exekutiert: Code is Law. Die Entscheidungen des Codes sind in ihrer Herkunft unbekannt und unbewertet. Deshalb brauchen wir juristische Lehrstühle zur Anti-Bias-Forschung, um wenigstens methodologisch dem Problem sich selbst wiederholender Fehler etwas entgegensetzen zu können.

 

Editorial

PDF öffnen  Rechtsanwalt und Fachanwalt für Verwaltungsrecht Prof. Dr. Thomas Klindt ist Partner bei Noerr LLP, München