Eine Beobachtung von jugendschutz.net sollte Betrachtenden noch kritischer werden lassen:

Aufgabe von jugendschutz.net ist, das Netz auf Gefahren für Kinder und Jugendliche zu untersuchen. Der Fokus liegt auf Themen wie Selbstgefährdung, politischem Extremismus, sexualisierter Gewalt, Belästigung und Cybermobbing. Dabei beobachtet jugendschutz.net neuestens in Sozialen Medien erste Versuche, mit „virtuellen Influencer:innen“ extremistisches und menschengruppenfeindliches Gedankengut zu verbreiten. Dabei werden mittels generativer Künstlicher Intelligenz (KI) auf Fake-Profilen Bilder von virtuellen Personen generiert, die u.a. Stimmung gegen Geflüchtete, Migrant:innen und trans-Personen machen oder NS-Geschichtsrevisionismus betreiben.

Dies betrifft nicht nur deutlich computergenerierte Darstellungen mit mitunter unbeholfenen Animationen: Auf verschiedenen Plattformen sind Profile einer KI-generierten jungen Frau zu finden, die rechtspopulistische bis rechtsextreme Botschaften sowie Engagement-Baits verbreitet – oft geschickt in Alltagsbeiträge eingebettet. Manche ihrer Inhalte erzielen eine beeindruckende Reichweite im sechsstelligen Bereich. Aus den Kommentaren geht hervor, dass viele Nutzer:innen die KI-Figur für eine reale Person halten.

Auch bei Kindern und Jugendlichen oder ihren Eltern besteht das Risiko, dass sie die menschen- und demokratiefeindlichen Haltungen solcher virtuellen Influencer:innen übernehmen, gerade wenn diese als echte Menschen wahrgenommen werden. Mit der fortschreitenden Entwicklung generativer KI und immer leichter zugänglichen und anwendbarer Tools wächst daher nicht nur die Bedrohung durch Falschinformationen.

Vor diesem Hintergrund wäre die Notwendigkeit einer gesetzlichen Kennzeichnungspflicht für KI-generierte Inhalte zu diskutieren. Die Frage wäre, ob eine solche Pflicht dazu beitragen könnte durch Transparenz eine Sensibislierung auf Seiten der Begrachter:innen zu schaffen.

 

Quelle: https://www.jugendschutz.net/themen/politischer-extremismus/artikel/risiken-durch-demokratiefeindliche-virtuelle-influencerinnen (18.12.2024)