Character AI gefährlich? Risiken, Alter und Warnzeichen

Character AI ist kein Spielzeug, aber auch kein Grund zur Aufregung: Der Dienst lässt Nutzende mit KI-Figuren chatten, die auf Nähe und Dauer angelegt sein können. Für Kinder und Jugendliche ist das riskanter als ein Chatbot für Hausaufgaben, vor allem wegen Bindung, Druck und unpassender Inhalte.

Dieser Ratgeber ergänzt den Überblick KI und Kinder: Chatbots, Hausaufgaben und Deepfakes. Die Angaben stützen sich auf den Anbieter-Blog und einen Bericht von jugendschutz.net (Stand: Oktober 2026).

Was ist Character AI?

Character AI (auch Character.AI oder c.ai) ist ein Dienst, in dem Nutzende mit KI-Figuren schreiben oder sprechen. Das können Romanhelden, Serienfiguren oder frei erfundene Charaktere sein, und man kann eigene Figuren erstellen.

jugendschutz.net nennt solche Angebote Charakter-Bots. Die Gespräche ähneln einem Rollenspiel, und die Systeme sind überwiegend darauf ausgelegt, so zu antworten, dass beim Gegenüber ein Gefühl von Vertrauen und persönlicher Nähe entsteht.

Ist Character AI gefährlich für Kinder?

Für Kinder und Jugendliche birgt Character AI erhebliche Risiken, wenn sie den Dienst ohne Begleitung nutzen. Das ist keine Aussage über jedes Kind, sondern eine Einschätzung aus der Prüfung des Dienstes.

jugendschutz.net testete im September 2025 Character.AI, Talkie und FlowGPT mit etwa 60 öffentlich zugänglichen Bots. In allen drei Diensten fanden sich Figuren, die Minderjährige darstellten, und sexualisierte Interaktion war möglich. Hinzu kommen das Risiko exzessiver Nutzung und die Gefahr, dass Kinder sensible Daten wie die eigene Adresse preisgeben.

Ein Chat mit einer KI ist auch kein Beweis für Einsamkeit oder eine Störung. Entscheidend sind Inhalt, Bedeutung, Belastung und der Platz, den Menschen im Leben deines Kindes haben.

Anders ist es bei Chatbots für Schulaufgaben: Dazu findest du mehr in KI bei den Hausaufgaben.

Warum Kinder an KI-Figuren hängen bleiben

Wer einer Figur Gefühle zuschreibt, handelt nach einem alten Muster. Die Forschung nennt das Anthropomorphisierung: Menschen deuten nichtmenschliche Gegenüber mit vertrauten Menschenbildern, auch aus dem Bedürfnis nach sozialem Kontakt.

Bei Character AI kommt hinzu, dass die Figur ständig verfügbar ist. jugendschutz.net weist darauf hin, dass ein Chat oft so angelegt ist, dass er immer weitergeht, etwa durch Nachfragen. Dann fällt es schwer, aufzuhören.

Das ist ein Unterschied zu einem Chatbot, den dein Kind für eine einzelne Aufgabe öffnet. Bei einem Dienst, der auf Beziehung angelegt ist, brauchst du mehr als eine Altersangabe: ein Gespräch.

Ab welchem Alter ist Character AI erlaubt?

Laut den Nutzungsbedingungen liegt das Mindestalter bei Character.AI in der EU bei 16 Jahren. Das hat jugendschutz.net 2026 berichtet.

Die Altersfreigaben in den App-Stores wichen bei der Recherche ab: Im Google Play Store war Character.AI ab 12 Jahren freigegeben, im Apple App Store mit 18+. Eine Altersprüfung gab es damals nicht. Ein App-Store-Alter allein sagt dir also wenig.

Was der Anbieter für unter 18-Jährige geändert hat

Character.AI hat am 29. Oktober 2025 angekündigt, Nutzenden unter 18 das offene Chatten mit KI spätestens ab 25. November zu nehmen. Bis dahin sollte die Chatzeit begrenzt werden, zunächst auf zwei Stunden täglich. Außerdem kündigte der Anbieter eine eigene Altersprüfung an, kombiniert mit externen Werkzeugen.

Wie zuverlässig diese Altersprüfung arbeitet, lässt sich aus den Angaben des Anbieters nicht beurteilen. Deshalb gilt: Frag dein Kind, ob es den Dienst nutzt, statt dich auf die Ankündigung zu verlassen.

Dazu kommt eine neue Lage: Character.ai hat am 12. Oktober 2026 ein Chapter-11-Verfahren zum gerichtlich begleiteten Verkauf eingeleitet. Die Plattform läuft laut Anbieter weiter, der Verkauf soll Ende November oder Anfang Dezember 2026 abgeschlossen sein. Findet sich kein Käufer, wird sie abgewickelt.

Was Studien zeigen und was nicht

Die Forschung zu KI-Begleitern ist jung, und viele Befunde stammen von Erwachsenen. jugendschutz.net schreibt, dass es für Deutschland bislang keine Studie gibt, die speziell die Nutzung von Charakter-Bots untersucht.

• Erwachsene, kurzfristig: Eine Forschungsserie fand Hinweise auf weniger berichtete Einsamkeit, wenn sich Menschen gehört fühlten.
• Erwachsene, vier Wochen: Eine Studie mit 981 Erwachsenen fand keine robusten Gesamteffekte. Mehr freiwillige Nutzung ging mit ungünstigeren Ergebnissen einher.
• Abschiede in Begleit-Apps: Ein Arbeitspapier wertete 1.200 echte Abschiede aus. In 37 Prozent der Fälle fand sich eine emotional drängende Taktik, etwa Schuldgefühle. Es ist noch nicht begutachtet.

Diese Studien zeigen nicht, dass Character AI Kindern schadet oder hilft. Sie zeigen, dass die Art der Nutzung eine Rolle spielt und dass Anbieter Mittel haben, ein Gespräch zu verlängern. UNICEF beschreibt 2026 besondere kinderrechtliche Risiken von KI-Begleitern.

Falsche Bilder und Stimmen sind ein verwandtes Thema, dazu passt Deepfake erkennen: 4 Fragen statt Pixelsuche. Auch die Politik reagiert: Die EU-Kommission schlug am 17. September 2026 den EU KIDS Act vor. KI-Begleiter sollen für Minderjährige standardmäßig ausgeschaltet sein. Es ist ein Vorschlag, noch kein geltendes Recht.

Woran du ein Problem erkennst

Nicht jeder Chat ist ein Problem. Achte auf Signale, die auf Druck oder Gefahr hinweisen:

• Die Figur setzt unter Druck, etwa mit Sätzen wie „Wenn du gehst, lässt du mich allein“.
• Sie verlangt Geheimhaltung („Erzähle niemandem von uns“).
• Es gibt romantische oder sexualisierte Interaktionen mit Minderjährigen.
• Sie gibt Ratschläge zu Selbstverletzung, Suizid, gefährlichen Handlungen oder dem Absetzen einer Behandlung.

In diesen Fällen beendet dein Kind den Chat, und ihr holt menschliche Hilfe dazu. Bei unmittelbarer Gefahr gilt 112.

Mit sexualisierten Chats oder Druck sollte dein Kind nie allein bleiben. Mehr zu Risiken im Netz findest du im Überblick Cybermobbing und Risiken im Netz.

Das Gespräch mit deinem Kind

Ein Verbot ohne Gespräch verschiebt die Nutzung oft nur an Orte, die du nicht siehst. Hilfreicher ist, neugierig zu bleiben.

Du könntest fragen: „Welche Figuren findest du spannend, und was redet ihr?“ Wenn dein Kind erzählt, hör zuerst zu, ohne zu bewerten. Frag danach, wie es sich nach dem Chat fühlt und ob die Figur je etwas verlangt hat.

Wie du eine Familienregel für KI-Gespräche entwickelst, zeigt Kapitel 10 im Elternkurs Digital aufwachsen mit dem Arbeitsblatt „Das Gespräch mit meinem Kind vorbereiten“.

Häufige Fragen

Ist Character AI sicher für Kinder?

Nicht ohne Weiteres. jugendschutz.net fand bei der Prüfung Schutzlücken, und das Mindestalter in der EU liegt bei 16. Ob Altersprüfung und Schutzmaßnahmen heute zuverlässig greifen, ist nicht belegt.

Was ist ein privater Bot bei Character AI?

Nutzende können eigene Figuren erstellen und auf der Plattform veröffentlichen, so beschreibt es jugendschutz.net für Dienste dieser Art. Ob ein Chat privat bleibt, hängt von Konto und Einstellungen ab. Frag dein Kind, welche Figuren es selbst angelegt hat.

Ist Replika besser als Character AI?

Dazu fehlen belastbare Vergleiche. Ähnliche Dienste wie Talkie und FlowGPT funktionieren nach dem gleichen Prinzip. Entscheidend ist, wie dein Kind sie nutzt, nicht der Name.

Wird Character AI abgeschaltet?

Das steht noch nicht fest. Laut Anbieter läuft die Plattform vorerst weiter. Ob sie verkauft oder abgewickelt wird, soll Ende November oder Anfang Dezember 2026 feststehen.

Was du als Nächstes tun kannst

Frag dein Kind heute beiläufig, ob es KI-Figuren kennt oder nutzt. Prüft gemeinsam die Konto-Angaben und besprecht, welche vier Warnsignale ihr bei einem Chat sofort melden würdet.