FSF, FSM und KJM schließen Modellversuch erfolgreich ab – interdisziplinäre Pilotgruppe entwickelt Qualitätsstandards – FSF übernimmt unabhängige Stichprobenkontrolle.
Der Modellversuch der Freiwilligen Selbstkontrolle Fernsehen (FSF) und der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM) unter Begleitung der Kommission für Jugendmedienschutz (KJM) zur
Zertifizierung automatisierter und KI-gestützter Bewertungssysteme (ABS) ist erfolgreich abgeschlossen.
Auf Grundlage von eigens entwickelten Qualitätskriterien und Ergebnissen der erfolgreichen
Pilotprüfung bieten FSF und FSM künftig ein dauerhaftes Zertifizierungsverfahren für Anbieter an. Als erstes System wurde das KI- gestützte Bewertungssystem Merm:ai:d von RTL Deutschland
zertifiziert.
Automatisierte Systeme unterstützen Unternehmen zunehmend bei der Altersbewertung audiovisueller Inhalte. Der Modellversuch konnte klären, nach welchen Maßstäben sich ihre Qualität und ihr Einsatz
verlässlich beurteilen lassen. Die Entwicklung der Kriterien übernahm die interdisziplinär besetzte ABS-Pilotgruppe mit Wissenschaftler:innen aus den Bereichen Informatik, Medienethik und Medienrecht. Begleitet wurde die Arbeit von einer Expert:innengruppe Jugendmedienschutz, in der die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) vertreten
waren.
Ein zentrales Ergebnis: Es zählt nicht allein die technische Leistungsfähigkeit. „Wer automatisierte Bewertungssysteme prüft, darf nicht nur auf die Technik schauen“, erklärt Dr. Stephan Dreyer, Mitglied
der ABS-Pilotgruppe. „Entscheidend ist das Zusammenspiel aus technischer Leistungsfähigkeit, fachkundigen Menschen und verlässlichen Prozessen im Unternehmen. Erst dieser Gesamtblick macht
Qualität nachvollziehbar und überprüfbar.“
Einen wesentlichen Bestandteil der Pilotprüfung bildete der von der FSF durchgeführte Stichprobenabgleich, in dem ein Pool von Sendungen unterschiedlicher Genres und Sendezeitschienen sowohl von der KI als auch von menschlichen Prüfenden bewertet wurde. „Der systematische Vergleich unserer Prüfergebnisse mit Ergebnissen von Merm:ai:d und den finalen Jugendschutzentscheidungen von RTL zeigt eine hohe Übereinstimmung. Die Kontextualisierung durch menschliche Expertise bleibt dabei relevant“ sagt Brigitte Zeitlmann, Geschäftsführerin Programmprüfung der FSF.
„Der Modellversuch zeigt, dass technologische Innovation und wirksamer Jugendmedienschutz Hand in Hand gehen können“, erklärt Martin Drechsler, Geschäftsführer der FSM. „Die entwickelten Standards schaffen Transparenz und ermöglichen es Anbietern, KI-Systeme verantwortungsvoll und nachvollzieh-bar einzusetzen.“
Als rechtlicher Bezugsrahmen des Modellversuchs dient der Jugendmedienschutz-Staatsvertrag (JMStV). Er verpflichtet Anbieter von Rundfunk und Telemedien, dafür Sorge zu tragen, dass Kinder und
Jugendliche entwicklungsbeeinträchtigende Angebote üblicherweise nicht wahrnehmen (§ 5 JMStV) und sieht für Jugendschutzbeauftragte die erforderliche Fachkunde vor (§ 7 Abs. 5 JMStV).
„Mit dem erfolgreichen Abschluss des Modellversuchs haben wir die Grundlage dafür gelegt, dass Anbieter Inhalte künftig KI-unterstützt nach transparenten Kriterien klassifizieren können“, sagt Claudia Mikat,
Geschäftsführerin der FSF. „Jetzt liegt es an den Selbstkontrolleinrichtungen und der KJM, den rechtssicheren Rahmen für die Aufsicht über diese neuen Bewertungssysteme im JMStV zu
verankern.“
Eva-Maria Sommer, Vorsitzende der KJM, begrüßt den Modellversuch als wichtigen Schritt. „Mit den entwickelten Qualitätsstandards entsteht ein belastbarer Rahmen für die Bewertung automatisierter und KI-gestützter Systeme“, sagt Sommer. „Darauf können wir aufbauen. Automatisierte Klassifizierungssysteme verdienen nur dann Vertrauen, wenn ihre Zuverlässigkeit laufend überprüft wird und die KJM auch im
Einzelfall eingreifen kann.“
Anbieter können ihre automatisierten und KI-gestützten Bewertungssysteme bei der FSF sowie der FSM nach den entwickelten Standards prüfen und zertifizieren lassen.
Mitglieder der ABS-Pilotgruppe: Prof. Dr. Oksana Arnold, Fachhochschule Erfurt; Dr. Stephan Dreyer, Leibniz-Institut für Medienforschung | Hans-Bredow-Institut; Prof. Dr. Judith Simon, Universität Hamburg
Mitglieder der Expert:innengruppe Jugendmedienschutz: Dr. Annika Baumann, Kommission für Jugendmedien-schutz (KJM), Henning Mellage, Landesanstalt für Medien NRW, Lukas Neuerburg,
Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ), Katharina Uharek Langhanke, Medienanstalt Berlin-Brandenburg (mabb)
Weitere Informationen: https://fsf.de/altersfreigaben/fuer-medienanbieter/zertifizierung-automatisierte-bewertungssysteme-jugendmedienschutz/
PM Kommission für Jugendmedienschutz (KJM)
