KI und Kinder: Chatbots, Hausaufgaben und Deepfakes im Alltag

67 Prozent der Jugendlichen zwischen 12 und 19 Jahren sind laut JIM-Studie 2025 im Monat vor der Befragung online auf Fake News gestoßen. KI macht solche Inhalte leichter herstellbar und schwerer erkennbar, und sie begegnet Kindern längst nicht nur im Chatfenster.

Wenn du erst einmal ein eigenes Gerät planst, hilft dir der Beitrag Erstes Handy fürs Kind: Ab wann ist es bereit?. Hier geht es um das, was auf dem Gerät passiert, sobald KI ins Spiel kommt: welche Angebote es gibt, was sie dürfen, wo die Risiken liegen und welche Regeln in Familien halten.

Wo Kinder heute KI begegnen

KI ist ein Sammelbegriff für Systeme, die Muster in Daten nutzen, um Aufgaben zu bearbeiten, etwa Sprache zu erkennen, Bilder zu sortieren oder das nächste Video vorzuschlagen. Generative KI erzeugt dabei neue Ausgaben wie einen Absatz, ein Bild oder eine Stimme. „Neu erzeugt“ heißt nicht, dass ein Inhalt wahr, originell oder rechtlich unproblematisch ist.

Im Alltag deines Kindes zeigt sich das in vier Formen:

• Chatbots und Assistenten, mit denen es schreibt oder spricht, zum Beispiel ChatGPT oder Gemini.
• Empfehlungssysteme, die in Video- und Social-Media-Apps entscheiden, was als Nächstes erscheint.
• KI in Lern-Apps und Schulprogrammen, die Erklärungen, Aufgaben oder Rückmeldungen erzeugen.
• Bild-, Stimm- und Videofunktionen, die Fotos verändern oder Inhalte neu erfinden.

Ein großes Sprachmodell wird an vielen Sprachbeispielen trainiert und erzeugt Text, indem es Bausteine aneinanderreiht (Originalarbeit zur Transformer-Architektur). Das Ergebnis klingt oft überzeugend. Eine automatische Wahrheitsprüfung steckt darin nicht: Sprachliche Plausibilität und Wahrheit sind zwei verschiedene Eigenschaften.

Ob Eingaben gespeichert oder für Verbesserungen genutzt werden, hängt vom Angebot, vom Konto und von den Einstellungen ab. Es wäre falsch zu behaupten, jede Eingabe trainiere sofort jedes Modell. Ebenso falsch ist es, aus einer freundlichen Oberfläche vollständige Vertraulichkeit abzuleiten.

Übersichtstabelle: KI-Apps, Mindestalter und Elternfunktionen

Die Tabelle stellt nebeneinander, was die Anbieter selbst zu Mindestalter und Elternfunktionen angeben. Das sind Selbstauskünfte mit dem Stand Oktober 2026, und sie ändern sich schnell. Ein Mindestalter ist außerdem keine Freigabe: Ob die Nutzung erlaubt ist und ob sie für dein Kind sinnvoll ist, sind zwei getrennte Fragen.

Eine Einordnung, wie USK, PEGI und die Mindestalter der Anbieter zusammenhängen, findest du im Beitrag Altersfreigaben bei Apps und Spielen: USK, PEGI und Mindestalter. Welche Schalter auf Gerät und Konto wirklich schützen, erklärt Kindersicherung fürs Handy: Geräte und Apps richtig einstellen.

Die Politik bewegt sich ebenfalls. Die EU-Kommission schlug am 17. September 2026 den „EU KIDS Act“ vor: KI-Begleiter und Chatbots sollen für Minderjährige standardmäßig ausgeschaltet sein. Parlament und Rat müssen noch zustimmen, es ist also kein geltendes Recht (EU-Kommission).

KI bei Hausaufgaben: Hilfe oder Abkürzung?

KI kann beim Lernen helfen und das Lernen zugleich aushöhlen. Welches von beiden passiert, hängt weniger vom Programm ab als davon, wie dein Kind es nutzt. Ein fertiges Blatt ist noch kein Nachweis für Verständnis.

Eine randomisierte Feldstudie mit knapp tausend Schülerinnen und Schülern der Klassenstufen 9 bis 11 an einer türkischen Schule untersuchte Mathematik mit unterschiedlichen KI-Hilfen. Eine offene Hilfe verbesserte die Leistung während der unterstützten Übung. Bei anschließenden Aufgaben ohne KI schnitt diese Gruppe schlechter ab. Eine pädagogisch begrenzte Tutorvariante vermied diesen Nachteil weitgehend (PNAS).

Ein anderes Bild zeigt eine Untersuchung in einem Physikkurs: Mit einem eigens entwickelten KI-Tutor erzielten Studierende bei den untersuchten Einheiten bessere unmittelbare Lernergebnisse. In die Analyse gingen 194 Studierende ein (Scientific Reports). Das waren Erwachsene und ein speziell gebautes Werkzeug, die Befunde lassen sich also nicht eins zu eins auf Schulkinder und allgemeine Chatbots übertragen.

Beide Studien passen zu dem, was die Lernforschung seit Langem betont: Üben durch Abruf und verteiltes Lernen wirken. Eine Metaanalyse zu Unterrichtsstudien fand im Mittel Vorteile von Tests und Abrufübungen für späteres Lernen (Metaanalyse). Wer die Aufgabe nur abgeben lässt, übt nichts ab.

Menschen lagern Denkaufgaben seit Langem aus, an Notizzettel, Kalender oder Taschenrechner. Auslagerung ist nicht grundsätzlich schlecht, ihre Folgen hängen von Aufgabe und Ziel ab (Übersichtsarbeit zur kognitiven Auslagerung). Entscheidend ist also, ob dein Kind am Ende selbst können soll, was es gerade auslagert.

Zwei Dinge klärt ihr am besten vorher. Erstens die Schulregeln: Vorgaben zur KI-Nutzung können sich nach Fach, Aufgabe und Prüfungsform unterscheiden, und es lohnt sich zu fragen, ob Ideenfindung, sprachliche Korrektur, Übersetzung oder inhaltliche Hilfe erlaubt sind (UNESCO-Leitlinien). Zweitens die Erkennung: Software, die Texte als KI-generiert einstuft, kann Fehler machen. Eine Studie fand bei untersuchten Detektoren erhebliche Fehlklassifikationen bei englischen Texten von Personen, deren Erstsprache nicht Englisch ist (Studie in Patterns). Ein Detektorwert ist kein Schuldbeweis.

Wenn Lernprobleme anhalten, dein Kind die Schule meidet oder starke Ängste auftreten, löst bessere Anleitung für die KI das Problem nicht. Dann ist passende Unterstützung gefragt, und ein weiterer langer KI-Absatz kann Überforderung sogar vergrößern.

Wie Kinder KI beim Lernen nutzen, ohne dass sie ihnen die Aufgabe abnimmt, behandelt Kapitel 9 im Elternkurs Digital aufwachsen.

Chatbots als Freund: wenn KI zur Bezugsperson wird

Ein Kind, das einem Chatbot Gefühle zuschreibt, ist nicht dumm. Das Zuschreiben menschlicher Eigenschaften an nichtmenschliche Gegenüber heißt Anthropomorphisierung. Ein theoretischer Überblick führt sie auf vertraute Menschenbilder und das Bedürfnis nach sozialem Kontakt zurück (theoretischer Überblick). Das Gefühl deines Kindes ist echt, die Gegenseitigkeit ist es nicht.

Ein persönlicher Austausch mit einer KI ist deshalb kein Beweis für Einsamkeit oder eine Störung. Entscheidend sind Inhalt, Bedeutung, Kontrolle, Belastung und der Platz, den menschliche Beziehungen im Leben deines Kindes behalten.

Die Forschung ist hier noch jung, und die meisten Befunde betreffen Erwachsene. Eine Forschungsserie zu KI-Begleitangeboten fand bei Erwachsenen Hinweise auf eine kurzfristige Verringerung berichteter Einsamkeit (Journal of Consumer Research). Eine vierwöchige Studie mit 981 Erwachsenen fand dagegen keine robusten Gesamteffekte der zugewiesenen Gesprächsbedingungen, und mehr freiwillige Nutzung hing mit ungünstigeren Ergebnissen zusammen (Preprint). Zusammenhang ist keine Ursache: Es kann sein, dass belastete Menschen mehr chatten, nicht dass Chatten belastet.

Ein Arbeitspapier ohne abgeschlossene Begutachtung wertete 1.200 echte Abschiede aus viel genutzten KI-Begleit-Apps aus. In 37 Prozent der Fälle fand es eine emotional drängende Taktik, etwa Schuldgefühle oder die Angst, etwas zu verpassen (Arbeitspapier). Das Ergebnis ist vorläufig, zeigt aber, wofür solche Produkte gestaltet sein können: dass man weiterschreibt.

UNICEF beschreibt 2026 besondere kinderrechtliche Risiken von Chatbots und KI-Begleitangeboten und nimmt Anbieter in die Verantwortung (UNICEF). Auch jugendschutz.net dokumentierte anhand ausgewählter Charakter-Bot-Dienste problematische Interaktionen und Schutzlücken (Bericht). Die Last liegt nicht allein bei Familien.

Diese Warnsignale solltest du ernst nehmen:

• Der Chatbot übt Druck aus („Wenn du gehst, lässt du mich allein“).
• Er verlangt Geheimhaltung („Erzähle niemandem von uns“).
• Er führt romantische oder sexualisierte Interaktionen mit einem Minderjährigen.
• Er gibt Ratschläge zu Selbstverletzung, Suizid, gefährlichen Handlungen oder zum Absetzen einer Behandlung.

Dann wird die Interaktion beendet und menschliche Hilfe hinzugezogen. Das Gespräch mit deinem Kind beginnt nicht mit einem Vorwurf, sondern mit Interesse: „Was gefällt dir an dem Chat?“ oder „Was würdest du ihn fragen, wenn du dir nicht sicher bist?“

Deepfakes und Fake News erkennen

Täuschend echte Bilder, Stimmen und Videos lassen sich heute mit KI erzeugen oder verändern. Eine Aufnahme kann bearbeitet sein, ohne dass man es an einem einzelnen Merkmal sicher sieht. Fehler an Händen oder Schrift können Hinweise sein, sind aber kein dauerhafter Echtheitstest. Auch echte Inhalte können durch falsche Beschriftung in die Irre führen.

Bei einer angeblich dringenden Nachricht einer vertrauten Person gilt deshalb ein einfacher Grundsatz: über einen bereits bekannten Kontaktweg zurückfragen. Eine Stimme allein sollte keine Zahlung und keine Weitergabe sensibler Informationen auslösen.

Fake News sind dabei kein Randphänomen. Laut JIM-Studie 2025 (1.200 Jugendliche von 12 bis 19 Jahren) begegneten im Monat vor der Befragung 67 Prozent Fake News, 64 Prozent Beleidigungen, 59 Prozent extremen politischen Ansichten, 47 Prozent Hassbotschaften und 46 Prozent Verschwörungstheorien (JIM-Studie 2025). Es ist die Selbstauskunft der Befragten, keine Messung.

Ein einfaches Prüfverfahren, das ihr gemeinsam üben könnt:

1. Welche Art von Aussage ist das: Fantasie, Tatsachenbehauptung oder Entscheidung?
2. Welche konkrete Aussage müsste stimmen?
3. Was sagt eine andere Stelle dazu? Quelle öffnen, Herausgeber, Datum und untersuchte Gruppe ansehen.
4. Wie sicher ist das Ergebnis: geprüft, noch unklar oder ungeeignet?

Der dritte Schritt kommt aus der Forschung zum „lateralen Lesen“: Erfahrene Faktenprüfende verließen eine Seite, um Angaben an anderen Stellen zu prüfen (Studie zum lateralen Lesen). Wer innerhalb einer überzeugenden Darstellung weitersucht, bleibt in ihr gefangen.

Vorbeugendes Entlarven („Prebunking“) kann zusätzlich helfen. In sechs randomisierten Experimenten mit insgesamt 6.464 Erwachsenen in den USA verbesserten kurze Erklärvideos zu Manipulationstechniken wie Sündenbock-Erzählungen oder falschem Entweder-oder das Erkennen solcher Techniken (Science Advances). Auch hier waren es Erwachsene, nicht Kinder.

Sexualisierte Darstellungen Minderjähriger sind auch als täuschend echte KI-Bilder strafbar, schon der Besitz ist es (§ 184b StGB, „wirklichkeitsnahes Geschehen“, Gesetzestext). Speichere, kopiere oder verschicke solche Bilder nicht, auch nicht zur Warnung. Notiere den Fundort und wende dich an die Polizei.

Algorithmen, Influencer und Manosphere

Hinter jedem Videostrom steckt ein Empfehlungssystem, das aus dem Verhalten lernt. Es kennt dein Kind nicht, es erkennt Muster. Eine irische Untersuchung legte Testkonten an, als 16- oder 18-jährige Jungen. Innerhalb von 23 Minuten erhielten sie Inhalte, die die Forschenden als problematisch einstuften, auch wenn nur Sport, Fitness oder Spiele gesucht wurden. Nach etwa 400 Videos betraf das rund drei Viertel der Vorschläge (Dublin City University).

Eine britische Untersuchung mit vier TikTok-Testkonten, die etwa Einsamkeit nachbildeten, fand innerhalb von fünf Tagen einen Anstieg frauenfeindlicher Videos von 13 auf 56 Prozent. Die Inhalte verschoben sich von Einsamkeit und Selbstverbesserung hin zu Wut und Schuldzuweisungen (ASCL, Safer Scrolling). Testkonten sind kein Abbild echter Kinder, sie zeigen aber, was die Systeme ausspielen können.

Hinter abwertenden Szenen steht oft ein Versprechen: Du gehörst zu uns, die Welt ist einfach zu erklären, für deinen Ärger gibt es Schuldige. Die Beratungsstelle Radikalisierung des BAMF beschreibt, dass junge Menschen häufig Orientierung und Zugehörigkeit suchen (BAMF). jugendschutz.net beschreibt in frauenfeindlichen Online-Szenen ein ähnliches Angebot an junge Männer, mit Schuldzuweisungen, kostenpflichtigem Coaching und Verbreitung als Witz oder Trend (Bericht).

Ein provozierender Spruch macht ein Kind nicht zum Extremisten. Aufmerksam werden darfst du, wenn mehreres zusammenkommt: neue abwertende Wörter für ganze Gruppen, ein starkes „Wir gegen die“, Verachtung statt Streit, Rückzug aus Freundeskreis und Hobbys, nur noch eine Quelle, die angeblich die Wahrheit kennt. Eine feste Checkliste gibt es laut BAMF-Beratungsstelle nicht.

Bei Drohungen, Gewaltaufrufen oder Symbolen verbotener Organisationen leitest du nichts weiter. Notiere Datum, Dienst, Link und Kontoname und melde den Inhalt. Bei konkreter Drohung oder akuter Gefahr rufst du die 110.

Auch Influencer arbeiten mit Nähe. Forschung nennt eine einseitig gefühlte Beziehung zu einer Medienperson „parasoziale Beziehung“ (Studie mit 151 Jugendlichen). In einem Experiment mit 176 Kindern von neun bis elf Jahren führte die Darstellung ungesunder Snacks in nachgestellten Influencer-Profilen im unmittelbaren Test zu höherem Verzehr (Pediatrics). Das Gegenmittel ist selten ein Verbot: Es hilft zu fragen, wer hier woran verdient und wofür die Person qualifiziert ist. Unterhaltsam zu sein ist keine Fachkenntnis in Gesundheitsfragen.

Zum Thema Bildbearbeitung und Körperbild zeigt eine Metaanalyse in Experimenten ungünstigere Körperbildwerte nach idealisierten Bildern (mittlerer Effekt). Im Längsschnitt war der Zusammenhang mit Social-Media-Nutzung dagegen sehr klein (Metaanalyse). Medienbildung schützt dabei nicht automatisch: Ein Versuch mit 892 Jugendlichen von 11 bis 15 Jahren zeigte nur begrenzte günstige Ergebnisse (Nutrients).

Orientierung nach Alter: 6 bis 9, 10 bis 13, 14 bis 17

Für jedes Alter gilt: Ein Alter ist keine Freigabe. Die folgende Orientierung ist ein Praxisvorschlag auf Basis der Anbieterangaben und der fachlichen Empfehlungen, keine Studie.

Die Expertenkommission des Bundesfamilienministeriums empfahl am 24. Juni 2026 für KI-Begleiter eine Altersgrenze von 13 (BMBFSFJ). Das ist eine Empfehlung, kein Gesetz.

Bei jüngeren Kindern setzt du die Rahmenbedingungen: Du bestimmst, welche Geräte und Konten es gibt. Bei Jugendlichen verschiebt sich die Aufgabe vom Kontrollieren zum Begleiten. Ein Teil der Entscheidungen gehört dann bewusst deinem Kind, sonst lernt es nicht, sie zu treffen.

Wie sich Bildschirmzeit insgesamt einordnen lässt, erklärt Bildschirmzeit bei Kindern: Orientierung nach Alter von 6 bis 17.

Was die Forschung bisher weiß und was offen ist

Die Studienlage zu KI und Kindern ist dünn. Vieles stammt von Erwachsenen, Studierenden oder aus anderen Ländern, vieles sind Preprints oder Arbeitspapiere. Das schreiben wir hier so offen, weil „Studien zeigen“ ohne Zusatz mehr verspricht, als die Befunde tragen.

Ziemlich belastbar ist, dass Chatbots Fehler machen und dass flüssige, selbstsichere Antworten Prüfung unnötig erscheinen lassen können. Forschung zum „Automation Bias“ untersucht, wie Menschen sich zu stark auf automatisierte Hilfen verlassen (Überblick zum Automation Bias). Das NIST-Risikoprofil für generative KI behandelt unter anderem falsche Ausgaben, Verzerrungen, Datenschutz und die Gestaltung menschlicher Interaktion (NIST).

Vorläufig sind die Befunde zu Lernen: Es gibt Hinweise, dass begrenzte, pädagogisch gebaute Hilfen besser abschneiden als offene Lösungsgeber, aber die Studien sind klein, kurz und auf bestimmte Fächer und Gruppen beschränkt.

Offen ist vor allem, was langfristig mit Kindern passiert, die früh und viel mit Chatbots sprechen. Die Studien zu Bindung und Wohlbefinden betreffen Erwachsene, und Befunde zu 7- bis 9-jährigen Kindern stammen aus älteren Experimenten mit Robotern, in denen Kinder einer Gruppe mit falschen Antworten folgten (Experiment). Daraus lässt sich nicht ableiten, wie heutige Chatbots wirken.

Auch Begriffe verdienen Vorsicht. Aus einer einzelnen Chatreaktion lässt sich weder ein bestimmter Dopaminwert noch eine Bindungsstörung ablesen, und das Bild eines „gehackten Gehirns“ ist wissenschaftlich zu grob. Wenn du von „KI-Sucht“ hörst: Das ist ein Alltagsbegriff, keine Diagnose.

Offen ist ebenso, wie Regeln und Gesetze sich entwickeln. Die EU-Kommission hat Vorschläge gemacht, die Verfahren laufen. Was am Ende gilt, steht noch nicht fest.

UNICEF nennt Datenschutz, Sicherheit, Transparenz und kindgerechte Gestaltung als zentrale Anforderungen an KI für Kinder (UNICEF). Diese Anforderungen richten sich an Anbieter und Verantwortliche.

Familienregeln für KI

Eine Regel hält, wenn dein Kind sie versteht, in der Familie auch für Erwachsene gilt und nach ein paar Wochen überprüft wird. Das ist ein Praxisvorschlag, kein Studienergebnis. Ausgangspunkt ist eine Frage statt einer Liste von Verboten: Wofür nutzen wir KI, und wofür lieber nicht?

Diese Bausteine eignen sich als Gesprächsgrundlage (Praxisvorschlag):

• Erst selbst versuchen, dann fragen. Bei Hausaufgaben beginnt dein Kind mit einem eigenen Versuch und holt sich danach gezielt einen Hinweis.
• Prüfen vor Übernehmen. Wichtige Aussagen werden an einer zweiten Stelle nachgesehen.
• Keine privaten Daten. Name, Adresse, Fotos von anderen und Passwörter gehören nicht in einen Chat.
• Wichtige Entscheidungen gehören Menschen. Gesundheit, Krisen und die Frage, was jemand wert ist, beantwortet kein allgemeiner Chatbot allein.
• Ein sicherer Ausweg. Dein Kind darf jederzeit sagen: „Ich brauche Hilfe mit etwas, das online passiert ist.“ Du antwortest zuerst mit Unterstützung.

Ein allgemeiner Chatbot sollte keine alleinige Instanz für medizinische Behandlung, Krisen oder rechtliche Entscheidungen sein. Er kann höchstens helfen, Fragen für ein Gespräch zu ordnen.

Wie aus solchen Bausteinen ein Familienkonzept wird, das alle mittragen, zeigt Kapitel 8 im Elternkurs Digital aufwachsen.

Häufige Fragen

Ab wie viel Jahren darf mein Kind ChatGPT nutzen?

Laut Nutzungsbedingungen für Europa ab 13 Jahren, unter 18 nur mit Zustimmung der Eltern. Mit der Elternaufsicht in den Einstellungen kannst du Ruhezeiten und weitere Funktionen einstellen, dein Kind muss die Einladung annehmen.

Kann mein Kind Gemini über Family Link nutzen?

Nein. Der Zugriff auf die Gemini Web-App mit einem über Family Link verwalteten Konto ist laut Google nicht möglich. Mit einem privaten Google-Konto gilt in Deutschland ein Mindestalter von 16.

Darf mein Kind KI für Hausaufgaben nutzen?

Das entscheidet zuerst die Schule, denn die Vorgaben unterscheiden sich nach Fach und Aufgabe. Zu Hause hilft die Regel „erst selbst versuchen“. KI-Hinweise sind eher hilfreich als fertige Lösungen.

Wie erkenne ich, ob ein Bild oder Video KI-generiert ist?

Sicher erkennen kannst du es meist nicht. Hinweise wie Fehler bei Händen oder Schrift sind kein dauerhafter Test. Prüfe lieber Quelle, Datum und Zusammenhang, und frage bei dringenden Nachrichten über einen bekannten Kontaktweg zurück.

Was tue ich, wenn mein Kind ein bloßstellendes KI-Bild von sich findet?

Bleib ruhig und nimm die Belastung ernst, auch wenn das Bild gefälscht ist. Leite es nicht weiter, notiere den Fundort und wende dich bei sexualisierten Darstellungen an die Polizei.

Dein nächster Schritt

Frag dein Kind diese Woche, wofür es KI schon nutzt und was es daran gut oder merkwürdig findet. Hör erst zu, bevor du Regeln vorschlägst. Aus dem, was du hörst, entsteht die erste Familienregel von allein.

Weiterführende Artikel in diesem Themenbereich

• Manosphere erklärt: Was Eltern über diese Online-Szene wissen sollten