KI verschärft Risiken für Kinder und Jugendliche im Netz
Das Gefährdungspotenzial für Kinder und Jugendliche im Netz nimmt zu. Aktuell macht es generative KI immer schwerer, Realität von Fälschung zu unterscheiden und verstärkt Risiken wie sexualisierte Gewalt, Mobbing und Extremismus. Dies ist ein zentraler Befund des Jahresberichts von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet. 2023 bearbeitete jugendschutz.net 7.645 Verstoßfälle. Davon sind zwei Drittel sexualisierter Gewalt zuzuordnen. Bei 12 Prozent handelt es sich um Sex / Pornografie, bei 11 Prozent um politischen Extremismus. Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing. 3.210 Verstöße meldete jugendschutz.net an Anbieter und Selbstkontrolleinrichtungen [...]