Künstliche Intelligenz ist für viele Kinder und Jugendliche in Deutschland längst Teil des Alltags, birgt aber teils erhebliche Risiken. Ob bei Hausaufgaben, zur Prüfungsvorbereitung oder einfach aus Neugier: Knapp zwei Drittel der 12- bis 19-Jährigen nutzen bereits KI-Werkzeuge wie ChatGPT, Gemini & Co. Der europäische IT-Sicherheitshersteller Eset warnt anlässlich des Safer Internet Days, der am 10. Februar bereits zum 23. Male begangen wird, davor, den Einsatz von KI im Kinderzimmer zu unterschätzen.
"KI ist für viele Jugendliche heute das, was früher Lexikon, Taschenrechner und Nachhilfe zugleich waren", sagt Ildiko Bruhns, Projektleiterin Safer Kids Online bei Eset. "Genau deshalb braucht es einen realistischen Blick auf die Kehrseite dieser Entwicklung."
Neben klassischen Sicherheits- und Datenschutzfragen rücken zunehmend psychologische Aspekte in den Fokus. Chatbots sind so programmiert, dass sie hilfreich, bestätigend und dialogorientiert reagieren. Für Kinder und Jugendliche kann daraus schnell mehr werden als ein reines Werkzeug. "Chatbots sind vielen Kindern mittlerweile ein echter 'Freund'", warnt Bruhns. "Gerade in einer sensiblen Phase der sozialen und emotionalen Entwicklung kann das reale Beziehungen verdrängen."
Hinzu kommt: Die digitalen Assistenten irren sich häufig. Sogenannte Halluzinationen, also überzeugend formulierte, aber falsche Antworten, sind ein bekanntes Phänomen. Während (viele) Erwachsene dies einordnen können, nehmen Kinder solche Aussagen häufig ungeprüft als Fakten hin. Das kann bei schulischen Themen "nur" schlechte Noten zur Folge haben, in gesundheitlicher oder persönlicher Hinsicht ein ernsthaftes Problem darstellen.
Ein weiteres Risiko liegt im Umgang mit persönlichen Daten. Viele Kinder geben in Chatbots Informationen preis, die dort nichts zu suchen haben. Von privaten Problemen bis hin zu vertraulichen Daten. "Alles, was eingegeben wird, verlässt den geschützten Raum der Familie", betont Bruhns. "Diese Daten können gespeichert, ausgewertet oder im schlimmsten Fall missbraucht werden."
Zwar setzen grosse Plattformen auf Schutzmechanismen und Altersbeschränkungen, doch diese greifen nicht immer zuverlässig. Technisch versierte Jugendliche finden oft Wege, Filter zu umgehen oder Beschränkungen auszuhebeln.
Neben Sicherheits- und Datenschutzfragen weisen Experten zunehmend auch auf mögliche psychische Auswirkungen der KI-Nutzung hin. Studien aus dem arbeits- und gesundheitswissenschaftlichen Umfeld zeigen, dass Chatbots nicht nur fehlerhafte oder widersprüchliche Informationen liefern, sondern bei intensiver Nutzung auch die kognitiven Fähigkeiten junger Menschen beeinflussen. Zu den möglichen Folgen gehören eine verminderte Gedächtnisleistung sowie Einschränkungen bei der Kreativität.
Die Sicherheitsexpertin rät Eltern dazu, das Thema KI und Chatbots aktiv aufzugreifen. Und zwar eher mit Aufklärung und Begleitung statt mit Verboten:
-- Interesse zeigen: Das Kind fragen, wofür es KI nutzt und welche Erfahrungen es damit macht.
-- Kritisches Denken fördern: Erklären, dass KI Fehler machen kann und Antworten immer überprüft werden sollten.
-- Grenzen setzen: Klare Regeln zur Nutzungsdauer und zu erlaubten Anwendungen helfen, Abhängigkeiten zu vermeiden.
-- Privatsphäre schützen: Deutlich machen, dass persönliche Daten, Probleme oder Fotos nichts in Chatbots zu suchen haben.
-- Menschlichen Austausch stärken: Echte Gespräche mit Eltern, Freunden und Lehrern helfen.
Weitere Informationen zu den Risiken von KI-Werkzeugen gibt es in ESETs aktuellem Blogpost "Kinder und Chatbots: Was Eltern wissen sollten" auf Welivesecurity.com (https://www.welivesecurity.com/de/kinderschutz/kinder-und-chatbots-was-e...).
