Dr. Jörg Ukrow, LL. M. Eur., ist geschäftsführendes Vorstandsmitglied des Instituts für Europäisches Medienrecht e. V. (EMR) und stellvertretender Direktor der Landesmedienanstalt Saarland (LMS).
MMR-Aktuell 2024, 01335 Die belgische Medienaufsichtsbehörde CSA veröffentlichte am 5.2.2024 erste Ergebnisse ihrer Überwachung der Zugänglichkeit pornografischer Inhalte im Internet. Bei dieser Kontrolle vor dem Hintergrund der Jugendschutzbestimmungen des DSA integrierte die Regulierungsbehörde zum ersten Mal mit KIVI ein speziell für diese Art von Analyse auf Initiative der Landesmedienanstalt NRW entwickeltes Tool der Künstlichen Intelligenz in ihre Arbeit. Um das Tool an die Realität im französischsprachigen Belgien anzupassen, erstellte die CSA eine Liste mit 250 Schlüsselwörtern auf Französisch und identifizierte 90 Super-Spreader-Konten, um KIVI eine Lernbasis zu bieten, die es ihm ermöglicht, mit der Überwachung zu beginnen.
Die vom belgischen CSA durchgeführte Überwachung konzentrierte sich bei der Kontrolle ausschließlich auf pornografische Inhalte, die auf X von französischsprachigen Konten ausgestrahlt wurden. Über einen Zeitraum von vier Monaten, vom 6.9.2023 bis 11.12.2023, wurden fast 5.000 potenziell problematische Inhalte durch das KI-Tool gelistet. Davon konnten 1.041 Inhalte von den CSA-Teams bearbeitet werden. Es scheint, dass 908 von ihnen einen eindeutig pornografischen Charakter aufweisen, was einer positiven Erkennungsrate des KI-Tools von 89 % entspricht.
Angesichts dieser Beobachtung untersuchte die CSA die Haltung der Plattform X gegenüber dem Vorhandensein dieser pornografischen Inhalte. Der Zugriff darauf ist nicht nur fast völlig kostenlos, am Ende dieser Überwachung scheint es auch so zu sein, dass kaum 10 % davon durch die Moderation von X gelöscht werden. Die ermittelten Inhalte zeigen, dass es sich nicht um isolierte Beiträge handelt, sondern um echte Accounts, die fast ausschließlich der Verbreitung pornografischer Inhalte (Fotos/Videos) gewidmet sind. Allerdings könnten nur etwa zehn dieser Konten als audiovisuelle Mediendienste eingestuft werden und könnten daher in den direkten Anwendungsbereich des CSA fallen. Die meisten Videos, die kurz sind und explizite sexuelle Handlungen ohne Kommentar zeigen, werden von zwei Arten von Profilen ausgestrahlt. Auf der einen Seite denjenigen, die man als „Amateure“ bezeichnen könnte und die keine Monetarisierung ihrer Inhalte anbieten. Auf der anderen Seite „Profis“, die die X-Plattform als Schaufenster nutzen, um Kunden auf andere kostenpflichtige Seiten und Dienste zu locken.
Die CSA-Überwachung bestätigt aus Sicht der Behörde, dass es auf der X-Plattform praktisch keine Moderation pornografischer Inhalte gibt. Dieser Mangel an Moderation wirft aus Sicht des CSA auch Fragen über die Absicht des Herausgebers auf. Bei den meisten bei der Überwachung identifizierten Konten handelt es sich um Profile, die ausschließlich der Verbreitung pornografischer Inhalte dienen, was eine echte Aktivität auf der Plattform darstellt. Das Löschen solcher Inhalte würde auch diese Art von Informationsfluss verringern oder sogar ganz verhindern. Diese Moderationsfrage könnte sich berechtigterweise auch bei anderen Arten von Inhalten stellen, die Minderjährigen und der Öffentlichkeit ernsthaften Schaden zufügen könnten, wie zB hasserfüllte, gewalttätige Beiträge oder Beiträge, die die Würde des Einzelnen verletzen. Mit einer Weiterentwicklung könnte die von der CSA iRd Überwachung eingesetzte KI auf die Analyse anderer Inhalte ausgeweitet werden, insbesondere im Hinblick auf die Verbreitung von Hassreden im Internet.
Karim Ibourki, Präsident der CSA, betonte bei der Vorstellung der Untersuchungsergebnisse, dass der CSA eine regulatorische Asymmetrie zwischen traditionellen Medienanbietern und Plattformen nicht weiterhin tolerieren könne.
Weiterführende Links
Vgl. auch Kandov MMR 2023, 659 und VG Düsseldorf MMR 2023, 538.