Hassinhalte, Desinformation und sexuelle Belästigung – Social-Media-Angebote sind Dreh- und Angelpunkt für zahlreiche Risiken, denen Kinder und Jugendliche im Netz ausgesetzt sind. Dennoch vernachlässigen Anbieter weiterhin den Schutz ihrer jüngsten Nutzer und treffen keine ausreichende Vorsorge. Dies zeigt der Jahresbericht von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet. 2022 bearbeitete jugendschutz.net 7.363 Verstoßfälle. 66 Prozent der Verstöße waren thematisch sexualisierter Gewalt zuzuordnen. Politischer Extremismus folgte mit 13 Prozent, Pornografie mit 8 Prozent. Auf Selbstgefährdung entfielen 7 Prozent, auf Gewalt 5 Prozent und auf Cybermobbing 1 Prozent.
„Wir erleben tagtäglich, wie das Netz missbraucht wird, um demokratiefeindliche Verschwörungsnarrative zu verbreiten, gegen queere Menschen zu hetzen oder Kinder sexuell zu belästigen. Nicht selten verschärfen Anbieter die Spirale von Gefährdungen noch durch neue Funktionen, mit denen sie in ihren Diensten eigentlich attraktive Nutzungserlebnisse schaffen wollen“, sagt Stefan Glaser, Leiter von jugendschutz.net. Die Recherchen und Kontrollen von jugendschutz.net hätten zwar gezeigt, dass einige Dienste mittlerweile Optimierungen vorgenommen haben. Dies sei erfreulich, aber bei Weitem noch nicht ausreichend. „Der Schutz von Kindern und Jugendlichen spielt für die Betreiber großer Plattformen anscheinend nur eine untergeordnete Rolle. Höchste Zeit, dass er als zentraler Wert in deren Unternehmensphilosophien verankert wird“, so Glaser weiter.
„Extremisten und Populisten nutzen das Netz, um die Demokratie anzugreifen und gegen Menschen mit anderer Weltanschauung zu hetzen. In den sozialen Netzwerken verbinden sie rassistisches Gedankengut mit Themen, für die sich junge Menschen interessieren. Der Jahresbericht von jugendschutz.net zeigt, dass im Zentrum von Hass und Hetze immer häufiger Menschen aus der LGBTIQ*-Community stehen“, warnt Bundesjugendministerin Lisa Paus. „Dass queere Menschen verstärkt angefeindet und bedroht werden, dürfen wir nicht hinnehmen. Die Betroffenen brauchen Rückhalt in der Gesellschaft und aus der Politik. Aber auch die Betreiber sozialer Medien stehen in der Verantwortung, die Hetze auf ihren Plattformen konsequent zu unterbinden. Mit unserem Programm ‚Demokratie leben!’ und der Reform des Jugendschutzgesetzes wirken wir in beide Richtungen: Stärkung von demokratischen Strukturen, Vielfalt und Zivilcourage auf der einen Seite und sichere Teilhabe von Kindern und Jugendlichen am Internet durch konsequente Plattformregulierung auf der anderen Seite.“
„Sexualisierte Gewalt ist im Netz ein großes Problem. Dabei geht es nicht nur um die massenweise Verbreitung von Missbrauchsdarstellungen oder die Anbahnung von Straftaten. Auch dass Belästigung von Kindern in Livechats, Tanzvideos oder Karaoke-Clips auf beliebten Plattformen wie TikTok und Instagram an der Tagesordnung sind, ist ein erschreckender Befund des Berichts von jugendschutz.net“, sagt die für den Jugendschutz der Länder federführend zuständige rheinland-pfälzische Jugendministerin Katharina Binz. Gemeinsam müsse gewährleistet werden, dass sich Heranwachsende auch im Rahmen der Entwicklung ihrer sexuellen und sozialen Identität unbeschadet im Netz bewegen können. „Wichtiger Baustein der Bekämpfung und Prävention sexualisierter Gewalt ist die Entwicklung und Implementierung umfassender Schutzkonzepte, die auch das Internet einbeziehen. In Rheinland-Pfalz haben wir hierzu den ‚Pakt gegen sexualisierte Gewalt’ geschlossen, in dessen Rahmen Handlungsempfehlungen erarbeitet und umgesetzt werden.“
„Hass, Desinformation und jugendgefährdende Challenges sind weiterhin Realität in Social Media. Gleichzeitig zeigen unsere KIM- und JIM-Studien, dass immer jüngere Kinder immer häufiger und immer länger diese Dienste nutzen.“ Marc Jan Eumann
„Hass, Desinformation und jugendgefährdende Challenges sind weiterhin Realität in Social Media. Gleichzeitig zeigen unsere KIM- und JIM-Studien, dass immer jüngere Kinder immer häufiger und immer länger diese Dienste nutzen. Anbieter müssen daher sicherstellen, dass Inhalte altersgerecht und altersdifferenziert ausgespielt werden. Wir als Aufsicht sind ebenfalls gefordert, weiterhin konsequent gegen Verstöße vorzugehen“, konstatiert Dr. Marc Jan Eumann, der Vorsitzende der Kommission für Jugendmedienschutz (KJM). Zudem seien mit der Entwicklung und Nutzung generativer Künstlicher Intelligenz neue Gefährdungslagen zu erwarten. „Anwendungen wie ChatGPT werden immer stärker Teil unseres Alltags. Schon jetzt zeigt sich, dass Herausforderungen für den Kinder- und Jugendmedienschutz bestehen – wie KI-generierte Desinformation und Deep-Fake-Pornografie. Es darf daher nicht das Bananenprinzip gelten, dass die Systeme bei den Nutzern reifen. Stattdessen müssen Anbieter*innen den Schutz von Kindern und Jugendlichen konsequent und von Anfang an mitdenken. Die Kommission für Jugendmedienschutz klärt aktuell zudem, inwiefern wir jugendmedienschutzrechtlich ausreichend aufgestellt sind und was wir für einen bestmöglichen Schutz noch brauchen.“
2022 bearbeitete jugendschutz.net 7.363 Verstoßfälle. 66 Prozent der Verstöße waren thematisch sexualisierter Gewalt zuzuordnen. Politischer Extremismus folgte mit 13 Prozent, Pornografie mit 8 Prozent. Auf Selbstgefährdung entfielen 7 Prozent, auf Gewalt 5 Prozent und auf Cybermobbing 1 Prozent. 79 Verstoßfälle übermittelte jugendschutz.net an die Kommission für Jugendmedienschutz (KJM) zur Einleitung eines Aufsichtsverfahrens. Außerdem gab jugendschutz.net 104 Fälle an die KJM zur Indizierung durch die Prüfstelle bei der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) ab. 2.219 Fälle sendete jugendschutz.net an das Bundeskriminalamt (BKA), da kinder- und jugendpornografische Inhalte verbreitet wurden oder Gefahr für Leib und Leben bestand (z. B. durch Gewaltandrohungen, Suizidankündigungen). Am Jahresende waren in 6.654 Fällen (90 Prozent) die Verstöße beseitigt.
Aus dem Bericht „Jugendschutz im Internet“:
Verschwörungs-Influencing: Jung, hip und demokratiefeindlich
Influencer spielen für viele Kinder und Jugendliche eine wichtige Rolle in ihrem Alltag. Auch Rechtsextreme und Verschwörungsideologen nutzen Influencing, um eine Beziehung zu ihrem Publikum aufzubauen. Sie geben Einblicke in ihren Alltag, zeigen sich offen und interessiert, präsentieren Lifestyle oder Fitness und sprechen so junge Menschen an. Über unverfängliche Themen und Auftritte streuen sie demokratiefeindliche Gedanken. Dafür verwenden sie populäre Formate wie z. B. provokant-ironische Straßenumfragen und Podcasts. Auf beliebten Diensten wie TikTok erzielen sie damit eine große Reichweite.
Attraktiv sind für junge Menschen auch Just-Chatting und Short-Clips. Just Chatting stammt aus dem Online-Gaming. Durch direkten Austausch u. a. auf Twitch, Gettr und DLive stärken die Verschwörungsinfluencer:innen Gruppenbildung und Gemeinschaftsgefühle. Auch zu Geldspenden rufen sie auf. Häufig gibt es von Sessions dann Re-Uploads z. B. bei YouTube. Short-Clips greifen Meme-Trends auf. Sie können auf den meisten Plattformen geteilt werden und erreichen dort ein breites Publikum außerhalb der eigenen ideologischen Blase. Fast jeder Verschwörungsinfluencer betreibt deswegen Short-Clips-Kanäle als Werbung für das Hauptangebot.
Rassistische Hetze und Stimmungsmache, z. B. gegen Geflüchtete, vollzieht sich vielfach in Untertönen. Auch antisemitische Verschwörungsmythen bleiben oft andeutungshaft und gezielt noch im Bereich des Zulässigen, sodass sie rechtlich kaum geahndet werden können. So steht z. B. das ideologische Schlagwort „Globalisten“ für eine angebliche jüdischgesteuerte Macht-Elite, die im Geheimen die Welt beherrscht. Damit wird versucht, eine Löschung oder Sperrung auf Plattformen zu umgehen. Auf Ausweichplattformen wie Telegram allerdings äußern sich Verschwörungs-Influencer deutlicher, etwa mit volksverhetzenden Äußerungen, weil sie dort keine negativen Folgen befürchten.
Belästigt in LIVEs: Riskante Funktionen von TikTok und Instagram
Auf TikTok und Instagram inszenieren sich Kinder und Jugendliche in Livestreams und Storys und interagieren mit anderen Nutzern. Hierbei sind sie vielfach mit sexuell belästigender Kommunikation konfrontiert. Das Spektrum reichte von zweideutigen Kommentaren wie „die Banane war auch woanders drinne“ bis zu explizit sexuellen Äußerungen wie „du bist so hot, ich muss schon wieder spritzen“. Wenn Kinder und Jugendliche beobachten, wie Gleichaltrige oder erwachsene Personen in sexueller Weise belästigt oder herabgewürdigt werden, kann sie das überfordern und ängstigen. Zudem können durch eine Normalisierung sexuell belästigender Kommunikation problematische Sicht- und Verhaltensweisen übernommen oder gefestigt werden. Insbesondere in der direkten Kommunikation entsteht für Minderjährige Druck, spontan auf sexuelle Fragen und Aufforderungen reagieren zu müssen. Dabei treffen sie möglicherweise riskante Entscheidungen, wenn sie z. B. für Geldgeschenke intime Details preisgeben oder freizügige Fotos versenden.
Bei TikTok beobachtete jugendschutz.net sexuell belästigende Kommunikation vor allem in Livestreams Minderjähriger. Bei Instagram waren kinder- und jugendaffine Creatoren besonders betroffen. Aufdringlich-übertriebene Komplimente auf sogenannten Kindermodell-Accounts oder auf denen von minderjährigen Amateursportler wirkten übergriffig. Da sexuelle Belästigung auch über private Kommunikation stattfindet, ist ein entsprechendes Dunkelfeld anzunehmen. TikTok und Instagram bieten Schutzmechanismen, z. B. eingeschränkte Nachrichten- oder Kommentarfunktionen. Allerdings fehlen Informationen zu sexuell belästigender Kommunikation, Verhaltenstipps und Hinweise zu Beratungsstellen.
https://www.jugendschutz.net/fileadmin/daten/publikationen/jahresberichte/jahresbericht_2022.pdf