Künstliche Intelligenz ist für viele Kinder und Jugendliche in Deutschland längst Teil des Alltags, birgt aber teils erhebliche Risiken. Ob bei Hausaufgaben, zur Prüfungsvorbereitung oder einfach aus Neugier: Knapp zwei Drittel (https://www.klicksafe.de/news/jim-studie-2024-veroeffentlicht) der 12- bis 19-Jährigen nutzen bereits KI-Werkzeuge wie ChatGPT, Gemini & Co. Der europäische IT-Sicherheitshersteller ESET warnt anlässlich des Safer Internet Days 2026 davor, den Einsatz von KI im Kinderzimmer zu unterschätzen.
„KI ist für viele Jugendliche heute das, was früher Lexikon, Taschenrechner und Nachhilfe zugleich waren“, sagt Ildiko Bruhns, Projektleiterin Safer Kids Online bei ESET Deutschland. „Genau deshalb braucht es einen realistischen Blick auf die Kehrseite dieser Entwicklung.“
KI wird vom digitalen Helfer zum digitalen Begleiter
Neben klassischen Sicherheits- und Datenschutzfragen rücken zunehmend psychologische Aspekte in den Fokus. Chatbots sind so programmiert, dass sie hilfreich, bestätigend und dialogorientiert reagieren. Für Kinder und Jugendliche kann daraus schnell mehr werden als ein reines Werkzeug.
„Chatbots sind vielen Kindern mittlerweile ein echter Freund „, warnt Bruhns. „Gerade in einer sensiblen Phase der sozialen und emotionalen Entwicklung kann das reale Beziehungen verdrängen.“
Hinzu kommt: Die digitalen Assistenten irren sich häufig. Sogenannte Halluzinationen, also überzeugend formulierte, aber falsche Antworten, sind ein bekanntes Phänomen. Während (viele) Erwachsene dies einordnen können, nehmen Kinder solche Aussagen häufig ungeprüft als Fakten hin. Das kann bei schulischen Themen „nur“ schlechte Noten zur Folge haben, in gesundheitlicher oder persönlicher Hinsicht ein ernsthaftes Problem darstellen.
Datenschutz: Ein blinder Fleck im Kinderzimmer
Ein weiteres Risiko liegt im Umgang mit persönlichen Daten. Viele Kinder geben in Chatbots Informationen preis, die dort nichts zu suchen haben. Von privaten Problemen bis hin zu vertraulichen Daten.
„Alles, was eingegeben wird, verlässt den geschützten Raum der Familie“, betont Bruhns. „Diese Daten können gespeichert, ausgewertet oder im schlimmsten Fall missbraucht werden.“
Zwar setzen große Plattformen auf Schutzmechanismen und Altersbeschränkungen, doch diese greifen nicht immer zuverlässig. Technisch versierte Jugendliche finden oft Wege, Filter zu umgehen oder Beschränkungen auszuhebeln.
Wenn KI das Denken ersetzt
Neben Sicherheits- und Datenschutzfragen weisen Experten zunehmend auf mögliche psychische Auswirkungen der KI-Nutzung hin. Studien (https://publikationen.dguv.de/widgets/pdf/download/article/5137) aus dem arbeits- und gesundheitswissenschaftlichen Umfeld zeigen, dass Chatbots nicht nur fehlerhafte oder widersprüchliche Informationen liefern, sondern bei intensiver Nutzung auch die kognitiven Fähigkeiten junger Menschen beeinflussen. Zu den möglichen Folgen gehören eine verminderte Gedächtnisleistung sowie Einschränkungen bei der Kreativität.
Was Eltern jetzt tun können
Die Sicherheitsexpertin rät Eltern dazu, das Thema KI und Chatbots aktiv aufzugreifen. Und zwar eher mit Aufklärung und Begleitung statt mit Verboten:
– Interesse zeigen: Fragen Sie Ihr Kind, wofür es KI nutzt und welche Erfahrungen es damit macht.
– Kritisches Denken fördern: Erklären Sie, dass KI Fehler machen kann und Antworten immer überprüft werden sollten.
– Grenzen setzen: Klare Regeln zur Nutzungsdauer und zu erlaubten Anwendungen helfen, Abhängigkeiten zu vermeiden.
– Privatsphäre schützen: Machen Sie deutlich, dass persönliche Daten, Probleme oder Fotos nichts in Chatbots zu suchen haben.
– Menschlichen Austausch stärken: Echte Gespräche mit Eltern, Freunden und Lehrern helfen.
Für Kinder und Jugendliche existiert zudem eine gute Anlaufstelle für ihre Sorgen und Ängste: Die „Nummer gegen Kummer“ bietet unter 116 111 oder online (https://www.nummergegenkummer.de/) Kindern und Eltern professionelle Hilfe bei Problemen und in Krisensituationen – vollkommen kostenlos, anonym und mit einem Menschen am anderen Ende der Leitung statt eines Sprachmodells.
Weitere Informationen zu den Risiken von KI-Werkzeugen gibt es in ESETs aktuellem Blogpost „Kinder und Chatbots: Was Eltern wissen sollten (https://www.welivesecurity.com/de/kinderschutz/kinder-und-chatbots-was-eltern-wissen-sollten)“ auf Welivesecurity.com.
Pressekontakt:
ESET Deutschland GmbH
Christian Lueg
Head of Communication & PR DACH
+49 (0)3641 3114-269
christian.lueg@eset.de
Michael Klatte
PR Manager DACH
+49 (0)3641 3114-257
Michael.klatte@eset.de
Philipp Plum
PR Manager DACH
+49 (0)3641 3114-141
Philipp.plum@eset.de
Folgen Sie ESET:
https://www.ESET.de
ESET Deutschland GmbH, Spitzweidenweg 32, 07743 Jena, Deutschland
Original-Content von: ESET Deutschland GmbH, übermittelt durch news aktuell