Professor Dr. Thomas Hoeren ist Direktor der zivilrechtlichen Abteilung des Instituts für Informations-, Telekommunikations- und Medienrecht (ITM) an der Westfälischen Wilhelms-Universität Münster und Mitherausgeber der MMR.
Iva Kostov, Nichtwissen bei maschinellem Lernen, Schriften zum Recht der Digitalisierung Nr. 21, 2023, Mohr Siebeck, ISBN 978-3-16-162610-4, 94 EUR
MMR-Aktuell 2025, 01344 In ihrer im Jahr 2023 an der Universität Hamburg angenommenen Dissertation legt Iva Kostov mit „Nichtwissen bei maschinellem Lernen“ eine beeindruckend tiefgründige und interdisziplinär anschlussfähige Untersuchung vor, die sowohl juristisch-theoretisch als auch technikbezogen überzeugt. Das Werk erscheint in der Reihe „Schriften zum Recht der Digitalisierung“ und reiht sich dort als Band 21 in eine wachsende Sammlung ein, die den juristischen Diskurs zu digitalen Technologien in der Tiefe auslotet.
Im Zentrum der Arbeit steht eine bislang wenig systematisierte Problemstellung: Die rechtliche Bedeutung von Nichtwissen, das durch den Einsatz von Verfahren des maschinellen Lernens entsteht. Kostov entwickelt den Begriff des Nichtwissens differenziert – in Abgrenzung zu verwandten Konzepten wie Unsicherheit, Ungewissheit und Risiko – und bettet ihn in aktuelle Debatten rund um algorithmische Intransparenz, sogenannte „Blackbox“-Systeme und Opazität ein.
Ihr methodisches Vorgehen ist exemplarisch: Am Beispiel der sicherheitsbehördlichen Verarbeitung von Fluggastdaten nach dem Fluggastdatengesetz (FlugDaG) analysiert sie die Entstehung, Persistenz und rechtliche Relevanz verschiedener Formen von Nichtwissen. Besonders hervorzuheben ist die von ihr entwickelte Typologie: Sie unterscheidet zwischen intendiertem Nichtwissen (zB aufgrund staatlicher Geheimhaltung oder strategischer Intransparenz) und unabsichtlichem Nichtwissen (zB aufgrund technischer Komplexität oder algorithmischer Eigenlogik).
Ein zentrales Argument der Arbeit lautet, dass maschinelles Lernen – obgleich zur Generierung von Wissen eingesetzt – paradoxerweise neue Formen der Intransparenz und Wissenslücken erzeugt, die gerade im sicherheitsrechtlichen Kontext mit erheblichen Grundrechtsrisiken einhergehen. Die juristische Analyse konzentriert sich auf Fragen der algorithmischen Transparenz, der rechtlichen Steuerung algorithmischer Prozesse und der Verantwortlichkeit bei komplexen Entscheidungsprozessen.
Kostovs Analyse bleibt dabei nicht auf einer deskriptiven Ebene stehen, sondern entwickelt konkrete juristische Folgerungen. Sie plädiert für normative Anforderungen an Dokumentation, Nachvollziehbarkeit und rechtliche Einhegung algorithmischer Systeme in sicherheitsbehördlichen Kontexten. Besonders innovativ ist ihre Verknüpfung verfassungsrechtlicher Grundsätze – etwa des Bestimmtheitsgebots, des Gleichheitssatzes und des Demokratieprinzips – mit den Herausforderungen der Digitalisierung öffentlicher Entscheidungsprozesse.
Auch in der rechtsdogmatischen Reflexion zeigt sich die Stärke der Arbeit. Sie problematisiert den normativen Gehalt algorithmischer Entscheidungen, hinterfragt das Verhältnis von Wissen und Legitimität und beleuchtet die Spannungen zwischen technischen Möglichkeitsräumen und rechtsstaatlicher Steuerungserwartung. Damit öffnet die Autorin nicht nur neue Perspektiven auf das Sicherheitsrecht, sondern auch auf den Umgang des Rechts mit epistemologischen Grenzphänomenen in der digitalen Moderne.
Insgesamt handelt es sich bei Kostovs Dissertation um einen ebenso theoretisch fundierten wie praktisch anschlussfähigen Beitrag zur juristischen Auseinandersetzung mit algorithmischer Entscheidungsunterstützung. Das Werk ist weit mehr als eine technische oder dogmatische Spezialuntersuchung: Es ist ein grundlegender Beitrag zur Rechtswissenschaft der digitalen Gesellschaft, der Maßstäbe für die künftige Forschung setzt.
Empfohlen ist diese Arbeit allen, die sich mit Verfassungsrecht, Datenschutz, Technikrecht oder Sicherheitsrecht beschäftigen – aber ebenso jenen, die sich mit der Transformation staatlicher Handlungslogiken im Zeitalter algorithmischer Steuerung auseinandersetzen.