Viele Gefahren und problematische Inhalte im Netz haben ihren Ursprung im Ausland. Mit dem Gutachten will die KJM in Erfahrung bringen, wie andere Staaten mit Herausforderungen wie Pornografie oder Gewalt umgehen und internationale Best-Practice-Lösungen kennenlernen. „Die Risiken in den untersuchten Staaten sind vergleichbar, werden jedoch teils anders gewichtet. Erhebliche Unterschiede gibt es in der rechtlichen Reaktion gerade auf neue Risikophänomene. Ein Schlüssel für die aktuellen Herausforderungen liegt in der Intensivierung des Austauschs sowie der Nutzung von KI zum Schutz von Minderjährigen", so die Autor*innen rund um Dr. Jörg Ukrow, LL.M.Eur, geschäftsführendes Vorstandsmitglied des EMR. 

Unterschiede gab es in den untersuchten Staaten unter anderem in der Onlinezeit: Spitzenreiter in der Online-Nutzung sind 9- bis 16-Jährige in Japan mit 3,04 Stunden täglich, Italien bildet das Schlusslicht mit durchschnittlich 2,5 Stunden. Eins ist jedoch gleich: Die Nutzung steigt im Gesamttrend. Damit laufen Minderjährige auch vermehrt Gefahr, mit Risiken in Kontakt zu kommen. 

Am stärksten reguliert sind Inhaltsrisiken wie Pornografie oder Gewalt, bei denen die bloße Konfrontation ein Risiko für Kinder und Jugendliche bedeutet. Ein wichtiges Ergebnis ist auch, dass Künstliche Intelligenz zwar einerseits ein Risiko darstellen kann, andererseits ist KI eine Schlüsseltechnologie, um Kinder und Jugendliche zu schützen. Das belegen etwa die von der KJM positiv bewerteten Age-Estimation-Systeme, die eine Alterskontrolle ohne Ausweispapier mittels Künstlicher Intelligenz ermöglichen. 

Zur Publikation geht’s hier. 

Um auf juristischer Ebene herauszuarbeiten, ob und inwiefern die Risiken von generativer Künstlicher Intelligenz für Kinder und Jugendliche durch die bestehenden gesetzlichen Vorschriften und den Vorschlag für einen AI Act der EU bereits abgedeckt sind, hat die Kommission für Jugendmedienschutz ein weiteres Gutachten ausgeschrieben. Erste Ergebnisse vom ausführenden Institut für Europäisches Medienrecht (EMR) werden im Oktober erwartet. 

Die Kommission für Jugendmedienschutz ist ein Organ der Landesmedienanstalten und ein Expertengremium aus aus Vertreter*innen von Bund, Ländern und Landesmedienanstalten. In Deutschland ist die KJM die zentrale Aufsichtsstelle für den Jugendschutz im privaten Rundfunk und Internet. 

Weitere Informationen über die Kommission für Jugendmedienschutz (KJM) und ihre Mitglieder finden Sie hier, Informationen zu den Medienanstalten finden Sie hier.