Mund, Das Recht auf menschliche Entscheidung

MMR-Aktuell 2025, 01480   Die Arbeit befasst sich mit aktuellen Phänomenen der Digitalisierung der drei Gewalten. Nach Einschätzung von Mund zeichnet sich dabei insbesondere ein Wandel des Vollzugs von Gesetzen durch menschliche Überprüfung des Einzelfalls hin zu vollständig automatisiert erlassenen Verwaltungsakten ab (S. 6). Nach einer Gesamtschau der Chancen und Risiken automatisierter Verwaltungsentscheidungen leitet die Arbeit aus dem Grundgesetz ein Recht auf menschliche Entscheidung ab.

Im Einzelnen beginnt das erste Kapitel mit Begriffsklärungen (S. 15-42). Anschließend legt die Verfasserin ihren Fokus auf die Nutzung der Informationstechnologie bei der öffentlichen Verwaltung und dabei auf die (rein) technische Erzeugung von Verwaltungsentscheidungen. Insb. automatisierte Besteuerungsverfahren werden als Veranschaulichungsbeispiele herangezogen. So wertet sie die Programmablaufpläne des Bundesministeriums für Finanzen als einen Schritt in die Richtung der digitalen Gesetzesanwendung: Das als Programmablaufplan dargestellte Gesetz kann die digitale Gesetzesanwendung in Form der Berechnung der zu erhebenden Steuern ermöglichen. Das Gesetz zur Modernisierung des Besteuerungsverfahrens (StModG) führt das Leitbild der ausschließlich automationsgestützten Steuerfestsetzung ein (S. 42-65).

Das zweite Kapitel befasst sich mit den Chancen und Risiken der technischen Erzeugung von Verwaltungsentscheidungen. Die Chancen sieht die Autorin in einem effizienten und gleichheitsgerechten Gesetzesvollzug insb. in Massenverwaltungsverfahren. Daneben identifiziert sie Personaleinsparungs- und Beschleunigungseffekte, die eine bürgerfreundliche Verwaltung unterstützen (S. 66-75). Allerdings identifiziert die Verfasserin in ihrem nächsten Schritt – erneut anhand des Beispiels der von Finanzbehörden genutzten Systeme - wesentliche strukturelle Unterschiede zwischen Systemen der elektronischen Datenverarbeitung zur digitalen Rechtsanwendung und menschlichen Rechtsanwendern. Derzeit seien die informationstechnischen Systeme nicht in der Lage, einzelfallbezogene juristische Subsumtionsprozesse abzubilden. Namentlich seien Algorithmen (noch?) nicht fähig, autonom Ermessen auszuüben. Bei selbstlernenden Algorithmen verschärften sich die Fragen nach der verbleibenden Entscheidungshoheit des Menschen und die Frage nach Ermessensfehlern. Ungeachtet einer weiteren Differenzierung zwischen nichtlernenden und selbstlernenden Systemen geht die Verfasserin also davon aus, dass diese nicht in der Lage seien, eine vollständige juristische Subsumtion vorzunehmen. Hieraus würden sich die Grenzen der digitalen Gesetzesanwendung ergeben. Allenfalls Gesetzestexte mit einer besonders geschlossenen Struktur (deskriptive Tatbestandsmerkmale, bestimmte Rechtsbegriffe, keine Ermessensspielräume auf der Rechtsfolgenseite) seien für volldigitalisierte Verwaltungsentscheidungen geeignet. Zudem könnte der „judikativen Gesetzespräzisierung“ bei der „fallvergleichenden Software“ eine besondere Bedeutung bei der Auslegung und Subsumtion zukommen. Dort wo das Gesetz auf der Rechtsfolgenseite eine Entscheidungsfreiheit des Rechtsanwenders vorsehe, müsse der Mensch das Ermessen ausüben (S. 75-155). Aus den weiteren Ausführungen ergibt sich, dass die Verfasserin diese herausgearbeiteten strukturellen Unterschiede als ein erstes Risiko der volldigitalisierten Verwaltungsentscheidungsfindung im Sinne eines defizitären Gesetzesvollzugs ansieht. Die weiteren Risiken werden deutlich weniger ausführlich beleuchtet (Risiken des fehlerhaften Massenvollzugs, der Intransparenz staatlichen Handelns, der reduzierten rechtlichen Überprüfbarkeit und der unzulänglichen Betroffenenbeteiligung: S. 156-158; problematische Profilbildungen sowie Datenabhängigkeit der verwendeten Algorithmen als Risiko für Datenschutz und Datensicherheit: S. 159-160; sonstige Risiken, etwa das Risiko einer „Formatierung der Freiheit“: S. 160-162). Im Gesamtergebnis des zweiten Kapitels sieht die Verfasserin als Hauptrisiko der algorithmenanwendenden Verwaltung, dass „die Grenze zwischen Rechtsanwendung und Gesetzgebung verschwimmt, die Rechtsanwendung inhuman wird oder dem Bürger Einzelfallgerechtigkeit versagt wird“ (S. 162/163).

Im dritten Kapitel leitet die Verfasserin „aus den Grundrechten aber auch aus staatsorganisationsrechtlichen Vorgaben des entwicklungsoffenen Grundgesetzes ein (neues) Recht auf menschliche Entscheidung“ ab (so ausdrücklich S. 165). Indizien für ein solches Recht sieht sie in einer Bestimmung der bremischen Verfassung (Art. 12 Abs. 1: „Der Mensch steht höher als Technik und Maschine.“) sowie in datenschutzrechtlichen Vorschriften (insb. Art. 22 DS-GVO). Auch das Recht auf eine gute Verwaltung nach Art. 41 GRCh sowie der Entwurf einer Charta der digitalen Grundrechte der EU ließen weitere Schutzbestrebungen erkennen (S. 166-176). Zwar habe das BVerfG bisher noch nicht ausdrücklich ein Recht auf menschliche Entscheidung generiert, die Ableitungen aus dem allgemeinen Persönlichkeitsrecht (Recht auf informationelle Selbstbestimmung, Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme) steckten jedoch bereits „erste Grenzen des staatlichen Einsatzes der Informationstechnik, des Eingriffs mithilfe der Informationstechnik, sowie des staatlichen Zugriffs auf die Informationstechnik (des Bürgers) ab“ (vgl. S. 176-186, insb. S. 185). Insb. aus dem verfassungsrechtlichen Bekenntnis der Gesetzmäßigkeit des Verwaltungshandelns gem. Art. 20 Abs. 3 GG leitet die Verfasserin eine äußerste Grenze für den Gesetzgeber ab, Entscheidungen an die Exekutive zu delegieren. So sei es dem Gesetzgeber nicht möglich, die Exekutive zu ermächtigen, das Ergebnis eines Programmablaufplans lediglich an das Ergebnis eines formellen Gesetzes oder des materiellen Rechts anzulehnen. Der Gesetzgeber selbst müsse bei wesentlichen Entscheidungen die gesetzlichen Entscheidungsgrundlagen für die Verwaltung schaffen (S. 229). Indem ein Computerprogramm den von der Verfassung geforderten Mindeststandard nicht immer ohne menschliches Dazwischentreten erfüllen kann, verbleibe dem Menschen bei der behördlichen Entscheidungsfindung eine maßgebliche Rolle (S. 232).

Das vierte Kapitel versucht das Recht auf menschliche Entscheidungen zu operationalisieren. Die Verfasserin bildet dabei verschiedene Kategorien von Verwaltungsentscheidungen (unter Ausschluss des Menschen vollständig technisch erzeugbare Entscheidungen, automationsgeleitete bzw. -gestützte menschliche Entscheidungen, vollständige menschliche Entscheidungen unter Ausschluss der Technik, vgl. S. 233-252). Der Gang der Untersuchung wird in einer Zusammenfassung (S. 254-265), einer Schlussbemerkung (S. 266) sowie in zentralen Thesen (S. 267-275) gerafft wiedergegeben. Die letzte These endet mit dem Satz: „Nicht der Algorithmus, sondern der Mensch ist es, der die von ihm geschaffenen Gesetze verstehen und anwenden kann, der seine Entscheidung mit menschlichem Wort begründen kann, der sich seinesgleichen zuwenden und zuhören kann, der Einzelfallgerechtigkeit gewähren kann, der fürsorglich ist.“

Ungeachtet zahlreicher Redundanzen ist das Buch lesenswert. Um die angedeuteten Redundanzen zu vermeiden, hätte die Autorin ihre Leserschaft vielleicht im Rahmen ihrer Einleitung strukturierter über den Prüfungsgegenstand und die Prüffolge ihrer Arbeit informieren und dafür auf die Zusammenfassung der Kapitel verzichten können. Nachvollziehbar scheint die Kernthese zu sein, dass aus dem „entwicklungsoffenen“ Grundgesetz ein Recht auf menschliche Entscheidung abzuleiten ist. Leider leitet die Autorin dieses Recht vor allem aus den zentralen Staatsorganisationsprinzipien des Art. 20 Abs. 3 GG ab. Das würde es allerdings nahelegen, dass das Recht auf menschliche Entscheidung nach dem Modell der Verfasserin nur punktuell ein subjektives Recht darstellt (nämlich in Bezug auf die datenschutzrechtlichen Bestimmungen des Art. 22 DS-GVO bzw. seiner nationalen Umsetzungsregeln). Zudem scheint die Autorin davon auszugehen, dass das Recht auf menschliche Entscheidung vor allem besteht, weil Algorithmen nicht zur juristischen Auslegung in der Lage seien. Bedeutet das, dass das Recht auf menschliche Entscheidung in dem Maße an Bedeutung verlieren kann, in dem Technik die „Ermessensausübung“ erlernen kann? Insoweit wäre eine vertiefte Analyse wünschenswert gewesen.