Die Strafverfolgung nicht vergessen
Die MA HSH als „Trusted Flagger“ – ein Erfahrungsbericht
26.06.2019. Von Thomas Fuchs, Direktor der Medienanstalt Hamburg/Schleswig-Holstein (MA HSH)
Die MA HSH ist ein institutionalisierter Melder, ein sogenannter Trusted Flagger. Seit dem Sommer 2018 hat die MA HSH einen priorisierten Meldestatus: als sogenannter Trusted Flagger bei YouTube und als Teilnehmer am Government Reporting Channel bei Facebook beziehungsweise Instagram. Mit diesem Status werden die von der MA HSH gemeldeten Inhalte von den Plattformen priorisiert geprüft. Rechtliche Grundlage für unsere Meldungen sind Community-Standards oder das Netzwerkdurchsetzungsgesetz, kurz NetzDG. Dieses verpflichtet große soziale Netzwerke wie Facebook, YouTube und Twitter dazu, gemeldete rechtswidrige Inhalte innerhalb festgelegter Fristen zu sperren oder zu löschen. Dazu gehören Hetze und Hassrede wie etwa volksverhetzende, beleidigende oder verleumderische Äußerungen.
Wir erhalten – und das ist ein sehr großer Vorteil gegenüber dem „normalen“ Nutzer – umgehend Feedback und auch Begründungen, warum die Löschung eines gemeldeten Inhalts gegebenenfalls abgelehnt wurde. Dadurch sind wir im Austausch mit den Plattformen und können bei Grenzfällen auch in den Dialog gehen. Ich möchte Ihnen nun anhand von konkreten Fällen zeigen, worüber genau wir eigentlich reden. Stellen Sie sich vor, Sie sind das Prüfteam von Google oder Facebook – mit 250 Personen ein respektabel besetztes Team. Ihnen werden nun folgende Kommentare gemeldet:
„Schießbefehl erteilen und gut ist einfach mit MGnestern und fertig. Wenn dieses Pack tot ist kann es auch nicht illegal einreisen.“
Dieser Kommentar stand unter einem YouTube Video mit einem ZDF Bericht über die Fluchtroute von Migranten aus der Westsahara nach Europa.
„Flüchtlinge? ??? Schmarotzer Ratten, die ihre Heimat, Frauen und Kinder im Stich lassen! !! L Der Abschaum kommt hier zu uns und kein Land will die zurück, weil die Froh sind das sie diese Verbrecher los sind, nur wir lassen das alles mit uns machen. …Schäme mich für dieses Land“
Dieser Kommentar wurde zu einem Facebook-Post abgegeben, in dem es um Flüchtlinge aus Afrika ging, die auf die Überfahrt nach Europa warten.
Ein dritter Kommentar fand sich ebenfalls auf Facebook, in einer Kommunikation, in der Debatten über „Links“ und „Rechts“ entlang gängiger politischer Stereotypen geführt wurden: Die Linke unterschätze die Gewalt, die von Migranten ausgehe; alle Rechten würden sofort Nazis genannt.
„Ekelhaft dieses linksfaschistische Geschmeiss, der Bodensatz der Gesellschaft“
Gern würde ich Sie darüber abstimmen lassen, in welchen dieser Fälle es sich Ihrer Meinung nach um Volksverhetzung handelt. Da die Ihnen als Prüfteam zur Verfügung stehende 24-Stundenfrist aber den zeitlichen Rahmen dieser Veranstaltung deutlich überschreiten würde, erlaube ich mir, die Beispiele selbst weiter auszuführen.
Den Kommentar im ersten Beispiel hat die MA HSH – gemeinsam mit weiteren aus demselben Kontext – bei YouTube als Verstoß gegen § 4 Abs. 1 Satz 1 Nr. 3 des Jugendmedienschutz-Staatsvertrags (JMStV) sowie gegen § 130 des Strafgesetzbuches (StGB), also als Volksverhetzung, gemeldet. Nachdem zunächst keine Löschung erfolgte, kam es auf unsere Nachfrage hin zu einer zweiten Prüfung, die schließlich zur Löschung des Kommentars führte.
Im zweiten Beispiel konnten wir den Autor des Kommentars ermitteln und so wegen Verstoßes gegen § 4 Abs. 1 Satz 1 Nr. 3 JMStV sowie gegen § 130 StGB Strafanzeige bei der Staatsanwaltschaft stellen. Diese stellte das Verfahren jedoch ein, mit der – an dieser Stelle verkürzt wiedergegebenen – Begründung, dass es sich in diesem Fall nicht um Volksverhetzung handle, da der Straftatbestand der Volksverhetzung nur inländische Gruppen betreffe. Flüchtlinge, die in Afrika auf ein Schiff warteten, seien nicht Teil der deutschen Gesellschaft. Das ist juristisch zwar vertretbar, gleichzeitig aber eine sehr weitgehende und zumindest spitzfindige Auslegung. Nach der Einstellung vonseiten der Staatsanwaltschaft meldete die MA HSH den Kommentar auch an Facebook – und erwirkte so seine sofortige Löschung.
Auch den Kommentar im dritten Beispiel haben wir Facebook gemeldet. Auch er könnte einen Verstoß gegen § 4 Abs. 1 Nr. 3 JMStV sowie § 130 StGB darstellen. Nach einem intensiven Austausch wurde er von Facebook schließlich jedoch als zulässige Meinungsäußerung bewertet. Danach handele es sich nicht um eine Beleidigung, sondern um einen politischen Schlagabtausch. Juristisch betrachtet bezeichnen Begriffe wie „Linke“ oder „linksfaschistisch“ keine Bevölkerungsgruppe im Sinne einer beleidigungsfähigen Einheit. Diese Bewertung mag nicht jeder teilen, aber sie ist juristisch gut vertretbar.
Diese drei Beispiele illustrieren, wie genau wir Kommentar für Kommentar prüfen und im Falle eines Verstoßes melden. Sie zeigen darüber hinaus auch die ebenso sorgfältige Bewertung und Prüfung durch die Plattformen.
Lassen Sie uns jetzt über Zahlen reden: Bei Meldungen nach dem NetzDG erreichte die MA HSH im Zeitraum Juli bis Dezember 2018 bei YouTube eine Löschquote von 87 Prozent – gegenüber einer deutlich geringeren Gesamtquote von nur 22 Prozent. Bei Facebook wurden 65 Prozent der von der MA HSH gemeldeten Inhalte gelöscht, insgesamt betrug die Löschquote hier nur 32 Prozent.
„Die Meldungen von Inhalten nach NetzDG und deren Prüfung werden von den Sozialen Plattformen ernst genommen und schnell bearbeitet.“
Grund für diese Werte ist sicher die gründliche und sachkundige Vorprüfung. Dennoch bleibt die Differenz zwischen der MA HSH- und der Durchschnittsquote bemerkenswert. Ein Aspekt, der von meinen Vorrednern als Grund für die niedrige Gesamt-Löschquote angeführt wurde, ist die große Anzahl unsubstantiierter Beschwerden, die beispielsweise bei Google – nach eigener Auskunft – einen Anteil von circa 50 % einnehmen.
Ein weiterer Grund scheint aber auch im Umgang der Plattformen mit Nutzerbeschwerden zu liegen: In von jugendschutz.net durchgeführten Tests hat sich gezeigt, dass derselbe Kommentar schneller gelöscht wurde, wenn er von einer Beschwerdestelle und nicht von einem Individuum gemeldet wurde. Das deutet daraufhin, dass die geringe Löschquote insgesamt nicht nur an unsubstantiierten Beschwerden liegt, sondern auch daran, dass die individuelle Beschwerde auch weniger ernst genommen oder weniger schnell gelöscht wird.
Insgesamt lassen sich die Erfahrungen der MA HSH folgendermaßen zusammenfassen: Die Meldungen von Inhalten nach NetzDG und deren Prüfung werden von den Sozialen Plattformen ernst genommen und schnell bearbeitet. Seit Inkrafttreten des Gesetzes hat sich die Löschgeschwindigkeit von gemeldeten rechtswidrigen Inhalten erhöht: YouTube löscht berechtigt gemeldete Inhalte in der Regel innerhalb von 24 Stunden, Facebook – bei unseren Fällen – innerhalb von fünf Tagen.
Hinsichtlich der Löschgeschwindigkeit gibt es Fälle, in denen die rechtliche Abwägung schwierig und zeitaufwändig ist. In all den von der MA HSH gemeldeten Fällen, in denen eine Prüfung länger gedauert hat, war dies nach unserer Ansicht angemessen. Es handelte sich dabei zumeist um Grenzfälle, die einer besonders sorgfältigen Prüfung, einer rechtlichen Recherche und gegebenenfalls einer juristischen Bewertung bedürfen. Insofern kann ich die vielfach geäußerte Kritik an der „24-Stunden-Frist“ nachvollziehen. Löschquote und Löschgeschwindigkeit allein sind jedoch nicht ausschlaggebend: Viel stärker muss die Qualität der Löschentscheidung in den Fokus rücken. Hier stehen wir empirisch noch am Anfang, hier besteht noch ein großer Forschungsbedarf.
Neben den Löschabläufen haben wir mit Inkrafttreten des NetzDG auch eine Verbesserung der Community-Standards verzeichnet. Zudem ist festzuhalten, dass sich die Zusammenarbeit von MA HSH und den Sozialen Netzwerken in den vergangenen 18 Monaten erheblich verbessert hat.
„Effiziente Löschpraxis, konsequente Strafverfolgung und effektiver Jugendschutz: Es braucht diesen Dreiklang für mehr Harmonie im Netz.“
Die Verbesserung der Meldesysteme ist aus unserer Sicht trotz allem noch immer eine Baustelle. Um Inhalte bei YouTube zu melden, müssen Nutzer über einen Account verfügen und eingeloggt sein. Meiner Meinung nach eine unzeitgemäße Einschränkung. Bei Facebook ist das Meldeverfahren sehr aufwändig: Um Inhalte zu melden, müssen Nutzer das betreffende Profil verlassen und im Impressum ein Meldeformular aufrufen. Auch dieses aus meiner Sicht bürokratische Verfahren steht einem schnellen und nutzerfreundlichen Melden entgegen. Für ein effektives Vorgehen gegen Hetze, Hassrede und andere strafbare Inhalte besteht hier aus meiner Sicht noch immer ein dringender Verbesserungsbedarf.
Das im Vorwege des NetzDG vielfach befürchtete Overblocking konnten wir nicht feststellen. Unser Eindruck ist, dass sorgfältig gearbeitet wird, auch Einzelfälle geprüft werden und es insofern nicht zu einem systematischen Overblocking kommt.
Hinsichtlich der Transparenzberichte, die die Sozialen Plattformen nach NetzDG halbjährlich öffentlich vorlegen müssen, möchte ich an dieser Stelle auf die MA HSH-Auswertung der bisher veröffentlichten Berichte von YouTube, Facebook, Twitter und Instagram verweisen. Sie steht online unter https://www.ma-hsh.de/infothek/publikationen/ma-hsh-auswertung-der-transparenzberichte-nach-netzdg.html zum Download bereit. Wer vertieft an diesem Thema interessiert ist, der findet darin eine ausführliche Auswertung.
Neben dem Löschen von strafrechtlich relevanten Inhalten darf deren Strafverfolgung nicht vergessen werden. Aber ehrlich gesagt: Schon die Herangehensweise in Form eines „jährlichen Aktionstags“ zeigt doch, dass es hier keine Routine in der Strafverfolgung gibt. Die Einstellungspraxis der Staatsanwaltschaften in Deutschland bei Volksverhetzungsdelikten ist aus unserer Erfahrung als unbefriedigend zu bewerten. Dabei ist die Strafverfolgung nicht nur wegen der Bestrafung im Einzelfall wichtig, sondern auch für die Schaffung eines allgemeinen Unrechtsbewusstseins, das gerade online bei vielen Nutzern kaum besteht.
Und zweitens: Der Jugendschutz. Alles, was bislang gesagt worden ist, bezieht sich auf einen Diskurs unter Erwachsenen, für die die Grenzen dessen, was sagbar ist, in einer Demokratie hoch liegen können und müssen. Allerdings können Aussagen, die Erwachsenen zumutbar und die noch nicht strafrechtlich relevant sind, auf zwölf- oder dreizehnjährige Kinder zutiefst verstörend wirken. Und nicht nur das. Rechte Influencer und Verschwörungstheoretiker haben Jugendliche als Empfänger ihrer Botschaften gezielt im Visier. Sie treten jugendaffin auf, verbreiten aber rechtsradikale und rechtspopulistische Inhalte. Dabei formulieren sie sehr bewusst unterhalb der Schwelle des Strafrechts. In diesen Fällen greift die „Notice-and-Takedown-Logik“ nicht. Die Verantwortung, Kinder und Jugendliche besser zu schützen, liegt auch hier bei den Plattformen, beispielsweise durch eine effektive Alterskennzeichnung oder geschützte Zugänge.
Effiziente Löschpraxis, konsequente Strafverfolgung und effektiver Jugendschutz: Es braucht diesen Dreiklang für mehr Harmonie im Netz.
Vortrag von Thomas Fuchs, Direktor der Medienanstalt Hamburg/Schleswig-Holstein (MA HSH) im Rahmen des 10. Hamburger Mediensymposiums am 6. Juni 2019: „Die Grenzen des Sagbaren. Wer bestimmt die Regeln des öffentlichen Diskurses im Netz?“
