Zu Recht? Und machen Trusted Flaggers das Internet tatsächlich sicherer und vertrauenswürdiger? Fragen an Jun.-Prof. Dr. Katharina Kaesling von der TU Dresden.
NJW: Aktuell wird der Trusted Flagger kontrovers diskutiert. Was ist seine Funktion bzw. Aufgabe?
Kaesling: Die Aufgabe der vertrauenswürdigen Hinweisgeber nach dem DSA, also der „Trusted Flagger“, ist die Meldung rechtswidriger Inhalte auf Online-Plattformen. Trusted Flagger sind nur solche, denen der jeweilige mitgliedstaatliche Koordinator für digitale Dienste – in Deutschland die Bundesnetzagentur – diesen Status zuerkannt hat.
NJW: Welche Anforderungen müssen Hinweisgeber erfüllen, um diesen Status zu erlangen?
Kaesling: Eine Stelle, die vertrauenswürdige Hinweisgeberin werden möchte, muss mit dem Antrag nachweisen, dass sie besondere Sachkenntnis und Kompetenz in Bezug auf die Erkennung, Feststellung und Meldung rechtswidriger Inhalte hat. Sie muss dafür über entsprechend qualifiziertes Personal verfügen, das in der Lage ist, rechtswidrige Informationen zu erkennen. Dabei kann sich die Sachkenntnis auf eines oder mehrere Gebiete erstrecken. Die Stelle muss auch unabhängig von den Anbietern der Online-Plattformen sein. Bei den Trusted Flaggern kann es sich nur um Stellen, also etwa öffentliche Einrichtungen oder Nichtregierungsorganisationen, nicht aber um Einzelpersonen handeln. Beispiele für solche, die Eingang in den DSA gefunden haben, sind etwa nationale Strafverfolgungsbehörden und Europol, Organisationen des INHOPE-Meldestellennetzes zur Meldung von Material über sexuellen Kindesmissbrauch sowie Organisationen für die Meldung rechtswidriger rassistischer und fremdenfeindlicher Darstellungen im Internet.
NJW: Wie sind solche Stellen rechtlich einzuordnen?
Kaesling: Trusted Flagger sind Teil des elektronischen Verfahrens, das Online-Plattformen zur Entgegennahme von Meldungen über rechtswidrige Inhalte einrichten müssen. Im Rahmen dieses Meldeverfahrens kann jede Person Hinweise zu Inhalten geben, die sie als rechtswidrig erachtet. Die Online-Plattformen haben alle Meldungen dann zügig zu bearbeiten und eine sorgfältige, willkürfreie und objektive Entscheidung über die gemeldeten Inhalte zu treffen. Erlangen sie dadurch Kenntnis von rechtswidrigen Inhalten und werden nicht tätig, indem sie diese unzugänglich machen oder entfernen, entfällt ihre Haftungsprivilegierung. Das Tätigwerden der Trusted Flagger erlaubt eine Priorisierung bei der Bearbeitung der Meldungen; ihre Meldungen sind zeitlich bevorzugt gegenüber den anderen Hinweisen zu behandeln. Die Entscheidungsautonomie der Online-Plattformen bezüglich der Einordnung und des Vorgehens wird aber nicht berührt.
NJW: Welche weiteren Vorteile bieten die Trusted Flagger?
Kaesling: Vertrauenswürdige Hinweisgeber können vielfältige gesellschaftliche Interessen repräsentieren. Anstatt auf das Tätigwerden Einzelner zu setzen, die beispielsweise von rechtswidriger Hate Speech betroffen sind, können Trusted Flagger entsprechende Inhalte im kollektiven Interesse melden. Mit ihrer besonderen Expertise sind ihre Einschätzungen zudem regelmäßig der von einzelnen Personen überlegen. Der DSA geht auch davon aus, dass die von den vertrauenswürdigen Hinweisgebern eingereichten Meldungen aufgrund ihrer Sachkenntnis und Kompetenz von den Plattformen mit weniger Aufwand bearbeitet werden können.
NJW: Was genau wird künftig gemeldet, und wer entscheidet über die Illegalität einzelner Inhalte?
Kaesling: Mit dem DSA wird die zuvor bereits von einigen Online-Plattformen vorgesehene Rolle der Trusted Flagger verrechtlicht. Über den Status entscheiden nicht mehr die Online-Plattformen selbst, sondern staatliche Behörden. Derzeit listet die EU-Kommission elf Trusted Flagger aus sechs Ländern, darunter die Meldestelle REspect! der Stiftung zur Förderung der Jugend in Baden-Württemberg. Es ist zu erwarten, dass diese Stelle Hasskommentare melden wird, die aus ihrer Sicht gegen deutsches Recht verstoßen. Trusted Flagger begründen bei ihrer Meldung ihre Einordnung des spezifischen Inhalts als rechtswidrig und können so die Entscheidung der Plattformen beeinflussen. Ihre Meldungen ziehen aber keine Pflicht zur Unzugänglichmachung der Inhalte nach sich. Sie müssen lediglich gegenüber Meldungen anderer Nutzer unverzüglich bearbeitet und einer Entscheidung zugeführt werden. Hierfür müssen die Online-Plattformen technische und organisatorische Vorkehrungen treffen.
NJW: Was genau bedeutet in dem Zusammenhang „unverzüglich“?
Kaesling: Bei diesem europäischen Konzept der Unverzüglichkeit variieren die Bearbeitungszeiten in Abhängigkeit von den konkreten Tatsachen und Umständen des Falles, der Art der rechtswidrigen Inhalte sowie der Qualität der Meldungen. Je mehr tatsächliche Aufklärung oder rechtliche Analyse erforderlich ist, desto mehr Zeit wird den Plattformen zugestanden. Bei klarer Sach- und Rechtslage kann eine unverzügliche Sperrung bzw. Entfernung auch innerhalb eines Tages vorzunehmen sein. Qualitativ hochwertige Meldungen von Trusted Flaggern können daher den Zeitraum, der für die Unverzüglichkeit in dem jeweiligen Fall maßgeblich ist, verkürzen. Für die Reaktion auf Hinweise zu rechtswidriger Hassrede findet sich im DSA ein Richtwert von 24 Stunden. Weitere Konkretisierungen können sich in Verhaltenskodizes finden.
NJW: Trusted Flagger sind ja nicht unumstritten. Kritiker sehen die Meinungsfreiheit in Gefahr und befürchten ein zunehmendes Denunziantentum. Sie auch?
Kaesling: Die Rolle der Trusted Flagger lässt sich nur im Zusammenhang mit den Haftungsprivilegierungen für die Online-Plattformen verstehen. Eine strenge Haftung für alle rechtswidrigen Inhalte dient der Meinungsfreiheit der Nutzer gerade nicht. Für eine Haftung ist Kenntnis der Plattform erforderlich, die durch die Meldung spezifischer Inhalte herbeigeführt wird. Hier setzt die Figur des Trusted Flaggers an, die qualitativ hochwertige Meldungen fördert und priorisiert. Sie wirkt insofern zugunsten der Meinungsfreiheit. Die Rechte der Nutzer sind auch prozedural abgesichert, insbesondere durch ein von der Plattform zur Verfügung zu stellendes Beschwerdemanagementsystem. Systemischen Risiken für die Meinungsfreiheit auf sehr großen Online-Plattformen begegnet der DSA durch Pflichten zur Risikobewertung und Risikominderung. Der Ausschluss von Einzelpersonen und die staatlich kontrollierten Voraussetzungen für den Status wirken einem etwaigen Denunziantentum entgegen.
NJW: Bestehen Vorkehrungen, um die Löschung nur unliebsamer, aber legaler Inhalte zu verhindern?
Kaesling: Wie bei rechtswidrigen Inhalten entscheiden auch bei unliebsamen Inhalten nicht die Trusted Flagger, sondern die Plattformen, und zwar nach ihren AGB. Bei deren Aufstellung haben sie auch die Rechte und berechtigten Interessen aller Beteiligten zu berücksichtigen. Der gesetzliche Auftrag der Trusted Flagger beschränkt sich auf die Meldung rechtswidriger Inhalte. Es steht den Plattformen aber frei, sie darüber hinaus einzusetzen, insbesondere zur Meldung AGB-widriger Inhalte.
NJW: Ist das Konzept geeignet, um das Internet sicherer und vertrauenswürdiger zu machen?
Kaesling: Trusted Flagger sind eine wertvolle Ergänzung des Melde- und Abhilfeverfahrens, da sie mit ihrer Expertise zielgerichtet die Entscheidungen der Plattformen zu bestimmten Inhalten einfordern und unterstützen. Schwächen der Systeme zur Inhaltemoderation in Bezug auf bestimmte Inhalte können damit ausgeglichen und identifiziert werden. Vertrauen Nutzer darauf, dass etwa rechtswidrige, ehrverletzende Äußerungen keinen Bestand haben, kann dies die aktive Partizipation aller in digitalen Diskursräumen begünstigen.
Seit September 2022 lehrt Jun.-Prof. Dr. Katharina Kaesling, LL.M., Bürgerliches Recht, Geistiges Eigentum sowie Rechtsfragen der KI an der TU Dresden. Studiert hat sie in Trier, Paris, Bonn und Brügge. Nach ihrer Promotion an der Universität Bonn war sie dort wissenschaftliche Koordinatorin am Käte Hamburger Kolleg „Recht als Kultur“. Sie ist Wissenschaftliche Leiterin der Bonner Forschungsstelle für Rechtsfragen neuer Technologien sowie Datenrecht (ForTech e. V.) und Forscherin im Exzellenzcluster CeTI-Center for Tactile Internet with Human in the Loop.
Dieser Inhalt ist zuerst in der NJW erschienen. Sie möchten die NJW kostenlos testen? Jetzt vier Wochen gratis testen inkl. Online-Modul NJWDirekt.
