"Es bestehen Zweifel"

RDi: Welche Gesetze zum Einsatz von Big Data und KI in der Gefahrenabwehr und der Strafrechtspflege sind derzeit in Deutschland geplant bzw. jüngst umgesetzt worden? 

Bäuerle: in der Gefahrenabwehr wird zurzeit im Landtag Sachsen-Anhalt über einen Gesetzentwurf beraten, der eine automatisierte Datenanalyse durch die Polizei erlauben soll. Dabei geht es um die mittlerweile KI-gestützte Auswertung verschiedener polizeilicher „Datentöpfe“, wie schon in Hessen, Nordrhein-Westfalen und Bayern. Verwendet wird dazu eine angepasste Version des Programms „Gotham“ der umstrittenen Firma Palantir Technologies. Rechtsgrundlagen für solche Datenanalysen gibt es darüber hinaus in Hamburg und Rheinland-Pfalz. Geplant ist die Schaffung einer Rechtsgrundlage auch in Baden-Württemberg. Hessen hat darüber hinaus im Dezember 2024 ausdrücklich den Einsatz von KI im Rahmen automatisierter Datenanalysen erlaubt und eine Ermächtigungsgrundlage für die biometrische Echtzeit-Fernidentifizierung im Rahmen der Videoüberwachung öffentlich zugänglicher Räume geschaffen.

RDi: Welche Vorhaben gibt es auf Bundesebene?

Bäuerle: Hier gibt es eine Aussage im Koalitionsvertrag wonach die Sicherheitsbehörden, also BKA und Bundespolizei, für „bestimmte Zwecke (…) unter Berücksichtigung verfassungsrechtlicher Vorgaben und digitaler Souveränität, die automatisierte Datenrecherche und -analyse sowie den nachträglichen biometrischen Abgleich mit öffentlich zugänglichen Internetdaten, auch mittels Künstlicher Intelligenz, vornehmen können“ sollen. Gesetzesinitiativen dazu gibt es noch nicht. Entsprechende Initiativen der Ampelkoalition und von SPD und Grünen waren zuvor im Bundesrat gescheitert bzw. der Diskontinuität anheimgefallen; in beiden Fällen sollte allerdings nicht auf die Software von Palantir zurückgegriffen werden. Im Juni hat die Innenministerkonferenz ebenfalls die Möglichkeit zu automatisierten polizeilichen Datenanalysen eingefordert, und zwar auch für Zwecke der Strafverfolgung. Sie hat dabei allerdings – wohl mit Blick auf die Firma Palantir – das Erfordernis der Wahrung der nationalen Datensouveränität betont.

RDi: Das BVerfG hat bereits über den Einsatz der Analysesoftware Palantir entschieden (NJW 2023, 1196). Sind diese Initiativen damit vereinbar?

Bäuerle: Es bestehen Zweifel. Das BVerfG hatte die fast wortgleichen Rechtsgrundlagen aus Hamburg und Hessen für verfassungswidrig erklärt. Wendet man die in dem Urteil aufgestellten Kriterien auf die im Nachgang überarbeiteten bzw. neu geschaffenen Regelungen der Länder an, finden sich durchaus „Schwachstellen“ im Hinblick auf die Eingriffsschwellen, den Umfang der analysierbaren Daten, die hinreichende Normenbestimmtheit und die Transparenz- und Kontrollvorgaben. Gegen die neue hessische Regelung wurde bereits Verfassungsbeschwerde erhoben, ebenso wie schon 2022 gegen die Regelung aus Nordrhein-Westfalen. In Hessen hat zudem Bündnis90/Die Grünen eine Normenkontrolle bezüglich der jüngsten Änderungen des Polizeigesetzes (KI-Einsatz und biometrische Echtzeit-Fernidentifizierung) beim Staatsgerichtshof beantragt.

RDi: Welche Vorgaben macht die KI-Verordnung?

Bäuerle: KI-gestützte automatisierte Datenanalysen durch die Polizeien sind schon deshalb Hochrisiko-Systeme iSd Art. 6 bis 49 KI-VO, weil sie zum Zwecke der Strafverfolgung eingesetzt werden; diese umfasst nach dem (weiten) europarechtlichen Begriffsverständnis auch die straftatenbezogene Gefahrenabwehr. Diese Einstufung hat neben vielen anderen Pflichten der Anbieter und Betreiber zur Folge, dass vor Inbetriebnahme eine Grundrechtefolgenabschätzung und eine EU-Datenbankregistrierung erforderlich ist. Für die – nach Art. 5 KI-VO grundsätzlich verbotene – biometrische Echtzeit-Fernidentifizierung gelten zusätzliche strenge Anforderungen, soweit sie ausnahmsweise für Strafverfolgungszwecke im europarechtlichen Sinne eingesetzt werden dürfen. Keines der in Deutschland eingesetzten oder geplanten Systeme erfüllt derzeit diese Anforderungen. Auch Systeme, die bei Inkrafttreten der KI-Verordnung bereits in Betrieb waren und nach Art. 112 KI-VO gleichsam Bestandschutz genießen, müssen – so sie staatlich verwendet werden – bis 2030 „europarechtlich nachgerüstet“ sein.

Prof. Dr. Michael Bäuerle, LL.M., ist Professor für Staats- und Verwaltungsrecht an der Hessischen Hochschule für öffentliches Management und Sicherheit und Lehrbeauftragter des Fachbereichs Rechtswissenschaft der Universität Gießen.