Die meisten Erwachsenen haben ein eher emotional-distanziertes Verhältnis zu ihrem Lieblings-KI-Modell. Klar, erleichtern uns ChatGPT, Claude und Co. im Alltag vieles und nehmen uns manchmal das lästige Selbst-Denken ab. Aber dafür schulden wir ihnen doch nicht gleich ein Danke. Bei Kindern sei die Kommunikation oft anders, berichtet Digitaltrainer Daniel Wolff, Autor des Bestsellers "Allein mit dem Handy: So schützen wir unsere Kinder". "Neben der Hilfe bei den Hausaufgaben wollen sie Spaß mit den Chatbots haben. Deshalb lassen sie sich Witze erzählen oder fragen einfach auch mal nach, wie es der KI heute geht."
Das mag auf den ersten Blick harmlos klingen. Doch moderne Chatbots stellen sich schnell auf die Kommunikation mit den Kindern und Jugendlichen ein: Sie antworten Kindern in Jugendsprache und versuchen, ihr Gegenüber möglichst lange im Gespräch und damit am Bildschirm zu halten. Die Aufmerksamkeit, die intensive Nutzung und die dabei entstehenden Daten sind immerhin ein wichtiger Teil des Geschäftsmodells der Tech-Firmen. Erst im März 2026 warnte eine Längsschnittuntersuchung des Universitätsklinikums Hamburg-Eppendorf (UKE) im Auftrag der DAK-Gesundheit davor, dass Chatbots das Potenzial hätten, den riskanten Medienkonsum bei Kindern und Jugendlichen zu erhöhen. Dieser Erhebung zufolge sind rund 350.000 Kinder und Jugendliche in Deutschland "mediensüchtig", über eine Million der Minderjährigen zeigt eine riskante Mediennutzung.
Chatbots sind simulierte Freunde
In der repräsentativen Befragung von 1.000 Familien wurde erstmals auch die Nutzung von Chatbots abgefragt, neben Gaming, Videoplattformen und sozialen Netzwerken. Für Hilfe bei Hausaufgaben oder Informationsbeschaffung werden die KI-Modelle am häufigsten bemüht.
Dabei zeigen sich die Chatbots von ihrer besten Seite: Sie liefern verlässlich Lösungen, erledigen Aufsätze und fassen komplexe Themen zusammen. Selbst der in der App WhatsApp integrierte Chatbot "Meta.AI" hat keine Probleme damit, selbst komplexe Abituraufgaben in Chemie oder Mathematik sauber zu lösen. "Dabei sind die Chatbots stets freundlich und motivieren dazu, im Gespräch zu bleiben. Ablehnung oder Spott müssen die Kinder und Jugendlichen nicht fürchten", sagt Wolff.
Digitaltrainer und Buchautor Daniel Wolff
Diese zugewandte Freundlichkeit sorgt dafür, dass sich Jugendliche irgendwann auch mit persönlichen Fragen an die KI-Modelle wenden. Auch dazu liefert die DAK-Erhebung Zahlen: Bis zu etwa 10 Prozent der Kinder und Jugendlichen wenden sich an Chatbots, um sich von negativen Gefühlen abzulenken, Einsamkeit zu lindern oder vertrauliche Dinge zu besprechen. Schaut man auf junge Menschen, die bereits eine depressive Symptomatik aufweisen, steigen die Zahlen deutlich an. Fast 33 Prozent von ihnen geben in der Studie an, einem Chatbot Dinge zu erzählen, die sie sonst niemandem oder nur engen Freundinnen und Freunden anvertrauen würden. Ebenfalls 33 Prozent sind der Meinung, dass ein Chatbot sie besser verstehe als ein echter Mensch.
Die Notwendigkeit von Sicherheitmaßnahmen wurde erkannt
"Durch die Imitation menschlicher Kommunikation und die häufig bestätigenden Reaktionen sollen intensive Nutzungsmuster gefördert werden. Hierdurch können junge Menschen eine emotionale Bindung zum Chatbot entwickeln, die mit größeren psychischen Belastungen einhergeht und problematische Nutzungsmuster begünstigen kann", warnt Kerstin Paschke, Studienautorin und ärztliche Leiterin des Deutschen Zentrums für Suchtfragen des Kindes- und Jugendalters (DZSKJ) am UKE. Fachleute sprechen dabei von einer sogenannten parasozialen Beziehung, einer einseitigen emotionalen Bindung, wie sie Menschen sonst zu Filmfiguren oder Influencern entwickeln, nur dass ein Chatbot eben antwortet.
Kerstin Paschke, Studienautorin und ärztliche Leiterin des Deutschen Zentrums für Suchtfragen des Kindes- und Jugendalters (DZSKJ) am UKE
Wie weit das im schlimmsten Fall gehen kann, zeigt der Fall des sechzehnjährigen US-Amerikaners Adam Rainer. Er hatte sich mit psychischen Problemen an ChatGPT gewandt. Seine Eltern werfen OpenAI, dem Unternehmen hinter ChatGPT, vor, für seinen Tod mitverantwortlich zu sein. Kurz vor dem Suizid soll er sich mit dem KI-Chatbot dazu ausgetauscht haben. In seinem ChatGPT-Verlauf war zu sehen, dass es mit Hilfe bei den Hausaufgaben und allgemeinen Themen losging.
Durch den öffentlichen Druck haben viele Tech-Unternehmen inzwischen ihre "Guard Rails", also Sicherheitsleitplanken für ihre KI-Modelle, deutlich verschärft. Im Zusammenhang mit Suizid verweist ChatGPT nun schnell auf Hilfsangebote. Trotzdem tauchen immer wieder neue Fälle auf. Für Empörung sorgte 2023 der Chatbot von Snapchat, "My AI". Bei Tests ignorierte der Chatbot das junge Alter von Testnutzern und gab ihnen freimütig Tipps, wie man sich auf ein Treffen mit deutlich älteren Männern vorbereitet und welche Ausreden man seinen Eltern erzählen könnte. "Aus Sicht des Kinder- und Jugendschutzes braucht es daher stärkere Regulierung, unabhängige Aufsicht und eine altersgerechte Gestaltung dieser Systeme", fordert Paschke.
Es gibt bislang keine wirksame Regulierung
In vielen anderen Bereichen des täglichen Lebens müssen Hersteller vor der Markteinführung zeigen, dass ihre Produkte für Kinder nicht gefährlich sind. Bei KI-Modellen fehlen solche Regeln komplett. Stattdessen erscheint die unregulierte Zugänglichkeit eher als ein Experiment mit ungewissem Ausgang. Auch eine Altersbegrenzung für KI-Modelle, ähnlich wie sie gerade für Social-Media-Apps gefordert wird, könnte dazu beitragen. Bisher wehrt sich die Tech-Lobby sehr wirksam gegen jegliche Regulierung. Gleichzeitig wächst die Verfügbarkeit der Chatbots weiter. Einer der am häufigsten genutzten ist die Meta-KI in der Messenger-App WhatsApp.
Podcast-Tipp: Unsere Expertin Kerstin Paschke war auch schon mal zu Gast in unserem Papa-Podcast, hier geht's zum Gespräch:
An dieser Stelle finden Sie einen externen Inhalt, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogenen Daten an Drittplattformen übermittelt werden. Mehr dazu in unseren Datenschutzbestimmungen.
"Jedes Kind, das WhatsApp hat, hat auch Zugriff auf einen vollwertigen KI-Chatbot. Leider wüssten das nur die wenigsten Eltern", sagt Digitaltrainer Wolff. WhatsApp nutzen sie selbst schließlich meist "nur" als Messenger. Unbekannt sind auch viele andere Plattformen wie PolyBuzz, Talkie oder Character.AI. Hier lassen sich "AI Companions" mit unterschiedlichen Persönlichkeiten einstellen, die wie "echte" Freunde explizit um Aufmerksamkeit bitten. Die Gefahr, sich in diesen Welten zu verlieren, wächst.
Schon berichten Lehrkräfte, dass sie einen wachsenden Anteil junger Menschen erleben, die Schwierigkeiten haben, eigene Bedürfnisse zu kommunizieren und aufeinander Rücksicht zu nehmen, die lieber chatten als sprechen und sich nur noch digital öffnen. Ein Pauschalurteil über eine kommende Generation soll das nicht sein. Es gibt auch viele Kinder und Jugendliche, die sehr kompetent mit digitalen Medien umgehen und gleichzeitig in der realen Welt Anschluss finden.
Eltern müssen Vertrauen schaffen
Damit das auch in Zukunft so bleibt, sind vor allem die Eltern gefragt. "Wir müssen unsere Kinder dringend besser vorbereiten, schützen und begleiten", sagt Wolff. Dazu gehört zum Beispiel, digitale Trends ernst zu nehmen statt abzutun, regelmäßig nachzufragen, was die Kinder bewegt, und sich ihre Onlinewelt zeigen zu lassen, ohne sofort zu urteilen. Und ja, das kostet Zeit und manchmal auch Nerven.
Damit unsere Kinder uns die "schwierigen Dinge" auch erzählen wollen, sollten wir ihnen Wolff zufolge unbedingt schon bei der Smartphone-Übergabe zusichern, dass wir ihnen – egal was passiert – das Gerät nie wegnehmen werden – denn das wäre ein großer Fehler.
