Von Prof. Dr. Dr. Frauke Rostalski,
Bei der Frage, wie eine vertrauenswürdige Verwendung von Künstlicher Intelligenz in Deutschland und Europa gelingt, geht es neben rechtlichen auch um ethische Aspekte. Hierzu Fragen an Prof. Dr. Dr. Frauke Rostalski, die an der Universität zu Köln unter anderem zu Fragen von KI für Recht und Moral forscht und Mitglied des Deutschen Ethikrats ist.
RDi: Was sind aus Sicht des Deutschen Ethikrats die zentralen Fragen bzw. Herausforderungen bei der Verwendung Künstlicher Intelligenz?
Rostalski: In der Arbeitsgruppe Mensch und Maschine befasst sich der Deutsche Ethikrat mit der KI-Technologie, diese ist jedoch nicht der zentrale Fokus. Vielmehr geht es im Allgemeinen um die Interaktion zwischen Mensch und Maschine und die daraus resultierenden Herausforderungen beispielsweise für Demokratie, Bildung und Kommunikation. Eine Herausforderung bei der gesamten Thematik ist die Multiakteursbeziehung und die Frage, wie diese in Zukunft ausgestaltet werden sollte.
RDi: Wo verorten Sie als Rechtswissenschaftlerin den größten Handlungsbedarf?
Rostalski: Da bisher spezielle Gesetze für den Einsatz von KI fehlen, die Technik aber schon in vielen Lebensbereichen genutzt wird, gibt es aus rechtlicher Sicht viele offene Fragen. Beispielsweise das Problem der Diskriminierung: Wenn die KI eingesetzt wird, um die Kreditwürdigkeit einer Person zu bewerten, das Verfahren jedoch intransparent ist, ist das problematisch. In diesem Zusammenhang ist der KI-Verordnungsvorschlag der EU sehr zu begrüßen. Es ist gut, dass der Gesetzgeber nun tätig wird.
RDi: Bisher wird die Diskussion sehr stark unter dem Gesichtspunkt des Verbraucherschutzes diskutiert. Ist das der richtige Fokus?
Rostalski: Ich weiß nicht, ob das wirklich so ist. Die Thematik wird ja aus vielen Perspektiven besprochen. Beispielsweise beim Einsatz in der Justiz oder in der Verwaltung steht nicht unbedingt der Verbraucherschutz im Vordergrund. In diesen Bereichen geht es vielmehr um den Schutz des einzelnen Bürgers, der ggf. durch staatliche Maßnahmen garantiert werden muss, weil er sich selbst nicht schützen kann. Dazu gehört auch das Thema Zertifizierung, die sich an alle richtet und insbesondere auch von Akteuren aus der Industrie sehr begrüßt wird.
RDi: KI spielt auch eine sehr große Rolle im Gesundheitsbereich und bei der Mobilität.
Rostalski: KI-Anwendungen haben das Potenzial, die ganze Gesellschaft unabhängig von bestimmten Berufsbereichen, Sektoren oder Personengruppen zu prägen. Im Gesundheitsbereich stellen sich natürlich auch andere Probleme, etwa der Erhalt der Kompetenzen und der Autonomie der Entscheidungsfindung der Ärzte. Die Rechte und Interessen des Verbrauchers sind aber auch berührt, wenn er als Patient von Entscheidungen betroffen ist, die unter Einbeziehung von KI getroffen wurden. Letztlich ist es im Mobilitätskontext oder in der Industrie genauso: Wenn KI-Anwendungen in Bereichen genutzt werden, wo früher allein oder weitgehend auf menschliche Expertise gesetzt wurde, wirkt sich die neue Technologie sehr häufig auf den Endverbraucher aus.
RDi: Die EU-Kommission hat einen horizontalen Rechtsakt vorgeschlagen. Wie bewerten Sie ihn?
Rostalski: In der Tendenz ist der Vorschlag positiv zu bewerten. Zu loben ist das Bestreben, die Grundrechte der Bürger zu schützen. Auch gehe ich davon aus, dass die ebenfalls beabsichtigten Ziele der Schaffung von Rechtssicherheit und der Verhinderung einer Rechtszersplitterung innerhalb der EU erreicht werden können. Natürlich gibt es immer noch Verbesserungspotenzial, so fehlt mir zum Beispiel in der Liste von Hochrisiko-KI-Anwendungen die Nennung von Versicherungs-Scoring- Systemen. Kritisiert wird zum Teil auch, dass das Verbot der „biometrischen Echtzeit-Fernidentifizierungssysteme“, also insbesondere der „Live“-Gesichtserkennung, durch die im Verordnungs-Entwurf genannten Ausnahmen, etwa zur Verfolgung bestimmter Straftaten, über deren Vorliegen die Mitgliedstaaten selbst entscheiden, von vornherein auf wackeligen Füßen steht. Diese Gefahr sehe ich ebenfalls.
RDi: Welche regulatorischen Ansätze gibt es noch?
Rostalski: Die EU ist mit ihren Regulierungsbemühungen natürlich nicht allein. Materiell enthalten Vorschläge in diesem Gebiet häufig ähnliche Ideen, wie zum Beispiel die Betonung der Relevanz von Fairness oder Transparenz. Eine wichtige Frage bei der KI-Regulierung ist meines Erachtens, ob man einen risikobasierten Ansatz wählt (wie die EU-Kommission) oder ob man sich für allgemeine Normen entscheidet, die für alle KI-Nutzungen gleichermaßen gelten. Beides hat Vor- und Nachteile.