Die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) soll Innovationen fördern, das Vertrauen in KI stärken und sicherstellen, dass die Technologie in einer Weise genutzt werde, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiere, formulierte das Bundesjustizministerium.
Die KI-Verordnung verfolgt einen risikobasierten Ansatz: Je höher das Risiko ist, desto strenger sind auch die Pflichten. Während KI-Systeme mit einem inakzeptablen Risiko gänzlich verboten werden und für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten.
Als KI-System mit inakzeptablem Risiko nannte das Ministerium das Social Scoring mithilfe Künstlicher Intelligenz und die Emotionserkennung am Arbeitsplatz. Beides werde es in Europa nicht geben. Zur zweiten Kategorie der Hochrisiko-KI-Systeme gehöre die biometrische Fernidentifikation etwa in Form von Gesichtserkennungssoftware, die Bilder von Überwachungskameras auswerte. Eine flächendeckende biometrische Überwachung solle es nicht geben.
Sonderregeln für generative KI
Besondere Vorschriften soll es zudem für generative KI geben, etwa für die bekannten Modelle Chat-GPt, das Texte mit KI-Unterstützung erstellt, oder Stable Diffusion, das Bilder mit Hilfe von KI erstellt. Auch hier gelte: Je wirkmächtiger das KI-Modell, desto strenger die Auflagen. Um urheberrechtliche Fragen besser klären zu können, sollen mit KI-Hilfe generierte Werke besondere Transparenzvorgaben erfüllen, um möglicherweise betroffenen Rechteinhabern die Durchsetzung ihrer Rechte zu erleichtern.
Vor Inkrafttreten der KI-Verordnung müssen noch das Europäische Parlament und eine Ratsformation formell zustimmen. Die Verordnung tritt am 20. Tag nach Veröffentlichung im EU-Amtsblatt in Kraft und findet grundsätzlich 24 Monate später Anwendung. Einige Vorschriften sind aber auch schon früher anwendbar: So greifen die Verbote bereits nach sechs Monaten. Bei der nun anstehenden Umsetzung will sich die Bundesregierung gemeinsam mit den anderen Mitgliedstaaten und der Kommission für eine bürokratiearme und innovationsfreundliche Lösung einsetzen.
Die jetzt erfolgte einstimmige Billigung der Staaten galt eigentlich als Formsache. Allerdings stand bis vor Kurzem auf der Kippe, ob Deutschland zustimmt. Bundesdigitalminister Volker Wissing (FDP) hatte am Dienstag dann aber mitgeteilt, das Ringen um die deutsche Haltung sei mit einem "tragbaren Kompromiss" zu Ende gegangen. Wissing ergänzte, er habe sich bis zuletzt für innovationsfreundlichere Regeln eingesetzt und Verbesserungen für kleine und mittlere Unternehmen erzielen können. Unverhältnismäßige Anforderungen seien abgewendet worden.
