05.09.2019

Mit moderner Technik Kinder in Social Media absichern

Künstliche Intelligenz nutzbar machen | Wirksamer Schutz auf Smartphones nötig | Anbieter müssen Verantwortung übernehmen | Lagebericht „Technischer Jugendmedienschutz“ von jugendschutz.net veröffentlicht

Kinder nutzen immer früher Social-Media-Dienste wie YouTube, Instagram oder Snapchat und sind dabei Risiken wie Mobbing, Hass, Belästigungen oder Gewalt ausgesetzt. Aktuelle Jugendschutzlösungen sind dort aber nahezu wirkungslos, da sie Inhalte nicht differenziert filtern können. Deshalb müssen auch moderne Technologien wie maschinelles Lernen zum Schutz der Jüngsten eingesetzt und fortentwickelt werden. Zu diesem Ergebnis kommt der aktuelle Lagebericht „Technischer Jugendmedienschutz. Zeitgemäße Entwicklung und zukunftsfähiges Schutzkonzept“ von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet.

„Gerade in Social Media finden sich viele Beiträge, die sexuelle Gewalt zeigen, zum Hass anstacheln oder die persönliche Integrität von Kindern gefährden. Um die Jüngsten vor solchen Konfrontationen zu schützen, ist ein Konzept nötig, das auch auf moderne Mechanismen zur Inhaltserkennung setzt“, sagt Stefan Glaser, Leiter von jugendschutz.net. Eltern benötigen zudem Schutzoptionen, die auf Smartphones wirken und leicht zu konfigurieren sind.

„Es liegt in der Verantwortung der Anbieter, existierende Techniken endlich gewinnbringend auch für den Jugendmedienschutz einzusetzen“, fordert Dr. Wolfgang Kreißig, Vorsitzender der Kommission für Jugendmedienschutz (KJM). Um Schutz und Teilhabe junger Userinnen und User zu gewährleisten, brauche es altersdifferenzierte Systeme, die leicht verfügbar und unkompliziert nutzbar seien. In anderen Feldern wie z. B. zur Verhinderung von Urheberrechtsverletzungen würden moderne technische Ansätze längst erfolgreich angewendet.

Veraltete Erkennungsverfahren in den aktuellen Jugendschutzprogrammen führen bei Social-Media-Angeboten nicht zu zufriedenstellenden Ergebnissen. Moderne Methoden der automatischen Inhaltserkennung nutzen dagegen Techniken des maschinellen Lernens (KI - künstliche Intelligenz), um schnell große Mengen von Daten zu klassifizieren. jugendschutz.net prüfte 2017 und 2018 die automatische Erkennung von jugendschutzrelevanten Inhalten. Getestet wurden ein bereits trainiertes, voll einsatzbereites System (Google Cloud Vision) und Programme, die das Training eines Erkennungsmechanismus ermöglichen (Facebook fastText und Google TensorFlow). Dabei waren Erkennungsquoten erzielt worden, die die Wirksamkeit gängiger Jugendschutzprogramme (ca. 80 % Trefferquote) mit vergleichsweise geringem Aufwand erreichen und teilweise sogar übertreffen.

Der Bericht „Technischer Jugendmedienschutz. Zeitgemäße Entwicklung und zukunftsfähiges Schutzkonzept“ steht zum Download bereit unter: https://www.jugendschutz.net/pdf/Bericht_2019_Technischer_Jugendmedienschutz.pdf  

jugendschutz.net ist das gemeinsame Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet. Die Jugendministerien haben die Stelle 1997 gegründet. Sie ist seit 2003 an die Kommission für Jugendmedienschutz (KJM) angebunden, um eine einheitliche Aufsicht über Rundfunk und Internet zu gewährleisten.

Die Kommission für Jugendmedienschutz ist ein Organ der Landesmedienanstalten und ein Expertengremium aus Vertretern von Bund und Ländern. In Deutschland ist die KJM die zentrale Aufsichtsstelle für den Jugendschutz im privaten Rundfunk und Internet. Weitere Informationen über die Kommission für Jugendmedienschutz (KJM) und ihre Mitglieder finden Sie hier, Informationen zu den Medienanstalten finden Sie hier.

Kontakt bei Medien-Rückfragen
Dr. Wolfgang Kreißig
Vorsitzender der Kommission für Jugendmedienschutz (KJM)

Lisa Keimburg
Referentin Jugendmedienschutz/Öffentlichkeitsarbeit
stv. Bereichsleiterin
Telefon: +49 (0)30 2064690-59
Mail: kjm@die-medienanstalten.de

www.kjm-online.dewww.die-medienanstalten.de

jugendschutz.net
Gemeinsames Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet
Stabsstelle Kommunikation
Wallstr. 11
55122 Mainz

Mail: presse@jugendschutz.net   
Telefon: +49 (0)6131 3285-20

www.jugendschutz.net

"Mit moderner Technik Kinder in Social Media absichern" (454 KB)