zum neuen Jahresbericht 2023 von Jugendschutz.net
„Das Gefährdungspotenzial für Kinder und Jugendliche im Netz nimmt zu. Aktuell macht es generative KI immer schwerer, Realität von Fälschung zu unterscheiden und verstärkt Risiken wie sexualisierte Gewalt, Mobbing und Extremismus.“
Dies ist einer der zentralen Befunde im Jahresbericht 2023 von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet. Jugendschutz.net hat den gesetzlichen Auftrag, das Internet auf Gefahren für Kinder und Jugendliche zu untersuchen. Dazu zählen Themen wie sexualisierte Gewalt, Selbstgefährdung, politischer Extremismus, Kostenfallen und ungeeignete Werbung. Auf der Webseite können Nutzer:innen unkompliziert beobachtete oder erlebte Gefahren melden.
Der Jahresbericht 2023 zeigt eine ernüchternde Bilanz: jugendschutz.net bearbeitete insgesamt 7.645 Verstöße, von denen zwei Drittel im Bereich sexualisierter Gewalt lagen. Weitere 12 Prozent betrafen Sex und Pornografie, 11 Prozent politischen Extremismus, 5 Prozent selbstgefährdende Inhalte und 2 Prozent Cybermobbing. Die gute Nachricht ist, dass rund 90 Prozent dieser Verstöße bis zum Jahresende gelöscht wurden. Dennoch gibt es nach wie vor deutlichen Verbesserungsbedarf, insbesondere bei der Reaktionsgeschwindigkeit und Präventionsbereitschaft der Plattformen, vor allem bei der Altersprüfung und den Meldesystemen. Ob das neue EU-weite Regelwerk, der Digital Services Act (DSA), hier zu spürbaren Veränderungen führen wird, bleibt abzuwarten.
Der Bericht verdeutlicht auch, dass neben den unterstützenden Potenzialen von Künstlicher Intelligenz (KI) diese Technologien zunehmend zur Verschärfung der Risiken im digitalen Raum beitragen. Insbesondere sexualisierte Gewalt, Hass und Mobbing nehmen durch den Einsatz von KI zu. In Online-Chats wird es durch KI immer schwieriger zu erkennen, ob man mit einer realen Person kommuniziert und wie vertrauenswürdig diese ist. Erwachsene können sich mithilfe von Chatbots und Stimmengeneratoren leichter als Gleichaltrige ausgeben, um Cyber-Grooming zu betreiben.
Auch Deepfakes, die täuschend echte Fälschungen von Bildern und Videos, lassen sich mittlerweile schnell und ohne besondere Vorkenntnisse erstellen und verbreiten. Solche Fälschungen können Menschen diffamieren und bloßstellen, ohne dass die Betroffenen selbst daran beteiligt sind. Zudem erleichtert KI die Verbreitung von Hass im Netz. Auf Plattformen wie Instagram, TikTok und YouTube werden junge Menschen, die sich für Klimaschutz oder andere demokratische Werte einsetzen, zunehmend Zielscheibe von Spott und abwertenden Posts, so der Bericht.
Diese Polarisierung und die damit einhergehende diffamierende Diskussionskultur können dazu führen, dass sich junge Menschen radikalisieren oder aus Angst vor Anfeindungen aus der öffentlichen Diskussion zurückziehen.
Die Relevanz des Berichts von jugendschutz.net wird auch durch die aktuellen politischen Entwicklungen unterstrichen. Die kürzlich stattgefundenen Landtagswahlen in Thüringen und Sachsen sowie die bevorstehende Wahl in Brandenburg am 22. September zeigen, dass die hohen Zustimmungswerte der AfD zum Teil durch den Zulauf von Erstwähler:innen erklärbar sind, die sich vorwiegend im Internet informieren, wo die AfD insbesondere in den sozialen Medien eine starke Präsenz zeigt. So generieren andere Parteien zwar teilweise genauso viel Content wie AfD oder BSW. Jedoch haben die TikTok-Kanäle der AfD bspw. eine deutlich größere Reichweite als die etablierter Parteien. Zu diesem Ergebnis kommt eine neue -> Studie der Universität Potsdam. Für die Autor:innen der Studie deutet einiges darauf hin, dass dies daran liegt, dass der TikTok-Algorithmus gerade extremere/auffallende Inhalte öfter in die Feeds spült, weil diese länger geschaut werden.
Deswegen ist es dringend erforderlich, hier genau hinzuschauen und sicherzustellen, dass die gesellschaftliche Vielfalt auch im digitalen Raum präsent bleibt und nicht zurückgedrängt wird.
Der komplette Bericht von Jugendschutz.net kann hier heruntergeladen werden.
