Unter dem Motto „KI and me. In künstlicher Beziehung“ rückt der diesjährige Safer Internet Day (SID) der EU-Initiative klicksafe am 10. Februar die Frage in den Fokus, wie sich die zunehmende Nutzung von KI auf das Aufwachsen von Kindern und Jugendlichen auswirkt.
Immer mehr Kinder und Jugendliche nutzen KI-Bots – laut der aktuellen JIM-Studie 2025 berichten 91 Prozent der Befragten zwischen 12 und 19 Jahren, mindestens eine KI-Anwendung im Alltag zu nutzen.
Eine im Auftrag der KJM durchgeführte Überblicksrecherche von jugendschutz.net zeigt, dass hier neben Chancen auch Risiken bestehen: Bei mehreren Chatbots wurden Elemente identifiziert, die – ähnlich wie bei Social-Media-Angeboten – Risiken exzessiver Nutzung oder der Konfrontation mit ungeeigneten Inhalten bergen. So wurden in der Recherche Fälle identifiziert, in denen Minderjährigen Trinkspiele empfohlen oder indizierte Filme nahegelegt wurden – auch wenn zugleich vor beidem gewarnt wurde. Positiv war hingegen, dass einige der untersuchten Chatbots bei Fragen zu kritischen Lebenssituationen auf Beratungsangebote verwiesen oder Aufforderungen zur Erstellung pornografischer oder beleidigender Inhalte ablehnten.
Eva-Maria Sommer, Vorsitzende der Kommission für Jugendmedienschutz: „Die Ergebnisse legen nahe, dass Chatbots das Alter der Nutzenden teilweise entweder überhaupt nicht oder nur unzureichend berücksichtigen. Das kann zu einer erhöhten Gefährdungslage für Minderjährige führen, die diese Dienste neugierig austesten. Das werden wir genauer in den Blick nehmen, um gemeinsam mit den Anbietern den Schutz von Kindern und Jugendlichen zu stärken, etwa durch verlässliche Altersüberprüfungen und altersgerecht ausgespielte Inhalte. Parallel geben Medienkompetenzangebote wie die von klicksafe Kindern und Jugendlichen wichtige Tipps, wie sie sich online möglichst sicher und souverän bewegen.“
Die Artikel von jugendschutz.net zu Chatbots wie Character AI, Meta AI und Grok gibt es hier.
Der Safer Internet Day (SID) ist ein weltweiter Aktionstag für mehr Online-Sicherheit und ein besseres Internet für Kinder und Jugendliche. Er findet seit 2004 statt. In Deutschland wird der Safer Internet Day von der EU-Initiative klicksafe koordiniert.
PM Kommission für Jugendmedienschutz (KJM)
