Die KI-VO – die neue DS-GVO? Von Angstmache, vermeintlichen Verboten und dem Image von Gesetzen

KIR 2025, 249   Viel ist geschrieben worden zur Kritik der DS-GVO, aber die wahrscheinlich verheerendsten Folgen für das Ansehen des Datenschutzes hatten die anekdotischen Beispiele, welche alltäglichen Verhaltensweisen durch die neue Verordnung verboten sein sollten. Wer erinnert sich nicht an die Geschichten von dem vermeintlichen Verbot des Anbringens von Namen der Mieter an Klingelschilder oder eines generellen Verbots bestimmter Videodienste in Corona-Zeiten. An einer früheren Universität wurde ich informiert, dass ich nicht E-Mails an Universitäten in Nicht-EU-Staaten schreiben dürfe, in denen personenbezogene Daten von Studierenden enthalten sind, die an einem Austauschprogramm mit der dortigen Universität teilnehmen, sondern die Kommunikation per Brief vornehmen solle. Ungeschickte Datenschützer haben ihren Teil dazu beigetragen, indem bürokratische und praxisferne Vorgaben gemacht wurden, um vermeintliche – oftmals bestenfalls geringe – Risiken für den Datenschutz zu beseitigen. Damit wurde dem Datenschutz ein Reputationsschaden zugefügt, der ihm bis heute anhaftet. Von den vielen Verbesserungen durch die DS-GVO für den Schutz der Bürgerrechte, etwa dem wirksamen Auskunfts- und Kopieanspruch, der Schluss machte mit der obrigkeitsstaatlichen Akteneinsicht im deutschen Verwaltungsverfahren und erstmals eine gewisse Transparenz in Amtsstuben und Konzernzentralen brachte, war in der Öffentlichkeit fast nie die Rede.

Droht dasselbe Imagedesaster nun auch der KI-Verordnung (KI-VO)? Vor einiger Zeit erreichte mich eine Nachricht der Schule meiner Kinder. Die Eltern wurden über eine Anpassung der Schulordnung für die Nutzung smarter und KI-fähiger Geräte informiert. Zum Hintergrund hieß es: „Zudem verbietet der KI-Act nach europäischem Recht den Einsatz einer KI im Unterricht, bei Prüfungen und in Leistungsmessungen, wenn der Einsatz nicht explizit von einer Lehrkraft erlaubt wurde. Damit ist die Nutzung einer KI beim Arbeiten mit dem Tablet, Handy, Smartwatch etc. ausdrücklich verboten, sofern diese nicht von der Lehrkraft als Gegenstand einer Übung oder Arbeitsphase erlaubt wurden“. Verboten, wenn nicht (gar ausdrücklich) erlaubt – das ist eine in Deutschland leider nicht aussterbende Denkweise, die mit einem freiheitlichen Staat nichts gemein hat. Und auch in der Sache regelt die KI-VO nicht die Nutzung einer KI durch Schülerinnen oder Schüler im Unterricht, weil die schulische Ausbildung zur persönlichen Tätigkeit iSd Art. 2 Abs. 10 KI-VO und Art. 3 Nr. 4 KI-VO zählt. Richtig ist, dass der Einsatz von KI-Systemen im Bildungsbereich ein Hochrisiko-Einsatz sein kann, der der Vorschrift des Art. 6 Abs. 2 iVm Anhang III Nr. 3 KI-VO unterfällt. Dies verbietet aber nicht pauschal die Nutzung einer KI beim Arbeiten mit Tablet, Handy oder Smartwatch im Unterricht, sondern gilt nur für die Feststellung des Zugangs, die Bewertung von Lernergebnissen, die Bewertung des Bildungsniveaus und die Erkennung von verbotenem Verhalten bei Prüfungen. Vor allem richtet sich die Vorschrift an die Bildungseinrichtung und nicht an die Schülerinnen und Schüler. Und schließlich statuiert Art. 6 KI-VO – ganz abgesehen von der Ausnahme des Art. 6 Abs. 3 KI-VO – kein Verbot, sondern nur Anforderungen an die eingesetzte KI.

Das Beispiel zeigt, dass auch nach Inkrafttreten der KI-VO Missverständnisse über die Reichweite der Regulierung drohen, die die Akzeptanz der Verordnung infrage stellen können. Rechtswissenschaft, Rechtspraxis und auch die Behörden sollten dem entschlossen entgegentreten und aktiv die Kommunikation über die – klassischen und neuen – Medien suchen. Es muss klar kommuniziert werden, dass nicht Lappalien verboten werden sollen, sondern konkrete Risiken für die Freiheiten und Grundrechte der Bürgerinnen und Bürger geregelt werden sollen. Es muss klar gesagt werden, was erlaubt ist und erlaubt bleibt. Niemand will Jugendlichen KI-generierte Fantasy-Videos verbieten, und selbst der Einsatz von ChatGPT für die Hausaufgabe bleibt – aus Sicht der KI-VO, das Prüfungsrecht mag das anders sehen – erlaubt. Und auch dort, wo die Regeln eingreifen, müssen Behörden nicht Probleme schaffen, sondern Lösungen anbieten, wie unbürokratisch ein wünschenswerter KI-Einsatz mit dem Recht in Einklang gebracht werden. Dies gilt auch und gerade für die Möglichkeit von Unternehmen und Organisationen, die Daten ihrer Kunden nutzen zu dürfen, um KI-Anwendungen entwickeln zu können. In Zeiten des Fachkräftemangels ist es unumgänglich, dass bestimmte Dienste wie die Kundenkommunikation künftig vorrangig über KI laufen, von der Wettbewerbsfähigkeit und dem möglichen Qualitätsgewinn der Dienste ganz zu schweigen. Leider ist diese Facette in der Diskussion – aktuell etwa über die Entscheidung des OLG Köln zum KI-Training durch Meta (OLG Köln Urt. v. 23.5.2025 – 15 UKl 2/25), unabhängig ob diese Entscheidung im Einzelfall richtig ist – unter beleuchtet. Vielleicht sollte man künftig stärker berücksichtigen, was für ein Unternehmen seine Kundendaten für die Entwicklung welchen KI-Tools nutzen will. So erscheint denkbar, die Marktmacht des Unternehmens zu berücksichtigen – KI-Anwendung kleinerer Unternehmen unter geringeren Voraussetzungen zuzulassen als die von Marktbeherrschern – oder Dienste zu privilegieren, die kostenlos angeboten werden oder auch Dienste zu privilegieren, die das Angebot einer Ware oder Dienstleistung verbessern sollen, das nicht (nur) in einem datenbasierten Geschäftsmodell besteht.

Und ganz grundsätzlich sollten wir einmal über die Vermittlung unserer Rechtsordnung im Allgemeinen und der Digitalrechtsordnung im Besonderen in den Schulen nachdenken. Es ist erschreckend, dass vielfach nicht einmal grundlegende Themen wie die Reichweite der Meinungsfreiheit und der Unterschied von Tatsachenbehauptung und Werturteil vermittelt werden. Die Schülerinnen und Schüler wissen mehr von den Mägen der Kuh als davon, was sie im Internet schreiben dürfen und was nicht. Im Gemeinschaftskundeunterricht der 8. Klasse in Baden-Württemberg wird über den Unterschied zwischen staatlichen und kommunalen Aufgaben sinniert – sicherlich ein Leckerbissen für Liebhaber des Kommunalrechts – aber die Schülerinnen und Schüler erfahren nichts über die Wahl von Bundestag und Bundesregierung, selbst wenn – wie jüngst – Bundestagswahlen anstehen. Auch die Rechtskenntnisse des Lehrpersonals sind häufig begrenzt, obwohl sich Fragen nicht nur des Schul- und Prüfungsrechts immer wieder in ihrer Arbeit stellen. Hinzu kommt, dass rechtliche Themen mit Bezug zu ihrer Lebenswelt Kinder und Jugendliche mehr interessieren als vieles andere auf dem Lehrplan. Insofern sollten die Hochschulen und Drittmittelgeber, wenn mal wieder Transfer und „Third Mission“ auf der Agenda stehen, viel stärker an die Schulen unseres Landes denken, denn – wie Willy Brandt einst formulierte – „Die Schule der Nation ist die Schule“, nicht der Arbeitgeber, die sozialen Medien oder gar – darum ging es bei Brandt – das Militär. Ob und wann dann auch die KIR ein Sonderheft für die politische Bildung und die Schulen auflegen wird, wird man sehen. Vielleicht schaffen wir es in einem ersten Schritt, die KI-VO in die Kinder-Uni zu integrieren.

Prof. Dr. Christian Heinze, LL.M. (Cambridge), ist Inhaber des Lehrstuhls für Bürgerliches Recht, Gewerblichen Rechtsschutz und Digitalisierung und Direktor am Institut für Digitalisierung und am Institut für Gewerblichen Rechtsschutz und Urheberrecht (IGRU) an der Universität zu Köln sowie Schriftleiter der KIR.