Deepfake-App: Warum manipulierte Bilder Jugendliche treffen können

„Ist doch nur ein Fake“ ist der Satz, der bei manipulierten Bildern am meisten übersieht: Ein Bild kann künstlich erzeugt sein, und die Bloßstellung für die abgebildete Person ist trotzdem echt. Mit einer Deepfake-App ist so etwas für Jugendliche in wenigen Minuten gemacht, deshalb lohnt sich ein ruhiges Gespräch, bevor etwas passiert.

Dieser Beitrag gehört zum Überblick KI und Kinder. Du erfährst, was solche Apps können, woran du Fälschungen oft erkennst, was du je nach Alter besprichst und was du tust, wenn ein Fake-Bild auftaucht.

Was eine Deepfake-App kann

Ein Deepfake ist eine mit Computerprogrammen hergestellte Aufnahme einer Person, die zeigt, was nie passiert ist. So beschreibt es klicksafe. Meist sind es Videos, es können aber auch Bilder oder Tonaufnahmen sein.

Eine Deepfake-App macht daraus ein Werkzeug für jeden: Ein Gesicht wird in ein Video gesetzt, eine Stimme nachgeahmt oder ein Foto verändert. Je mehr Bilder eines Gesichts vorhanden sind, desto überzeugender wird das Ergebnis. Fotos von Mitschülerinnen und Mitschülern liegen in Klassenchats und auf Profilen in großer Zahl.

Viele Deepfakes sind laut klicksafe pornografisch. Genaue Zahlen zu Kindern und Jugendlichen nennt die Seite nicht, und hier steht deshalb auch keine.

Warum das für Jugendliche zum Risiko wird

Meist beginnt es nicht mit böser Absicht. Ein Witz, eine Mutprobe oder Neugier auf eine App reichen. Dann landet ein Bild im Chat, und andere leiten es weiter.

Der Kern des Problems steht in der Fact-Base des Kurses: Ein beleidigendes Bild kann bearbeitet oder künstlich erzeugt sein, die Bloßstellung kann trotzdem real sein. „Das ist doch nicht echt“ reicht als Antwort auf die Belastung der betroffenen Person nicht aus.

Auch der Satz „Die KI hat das gemacht“ entschuldigt das Teilen nicht. Hilfreich sind vier Fragen, die dein Kind vor jeder Veröffentlichung stellen kann:

• Betrifft das eine reale Person?
• Könnte es als echt verstanden werden?
• Gibt es eine Erlaubnis?
• Ist eine Kennzeichnung nötig?

Wie solche Bloßstellungen im Klassenchat wirken und was bei Mobbing hilft, erklärt der Überblick zu Cybermobbing, Grooming und Sexting.

Woran du Fälschungen erkennst

Es gibt keinen sicheren Echtheitstest. Als Hinweise nennt klicksafe unnatürliche Mimik, einen leeren Blick oder falsche Schatten im Gesicht. Bei Bildern können Fehler an Händen oder Schrift auffallen. Beides ist kein dauerhafter Beweis, weil die Technik besser wird.

Verlässlicher ist der Kontext. Die klicksafe-Seite empfiehlt, zu prüfen, wo ein Video auftaucht, ob Faktenchecks dazu existieren und wann es zuerst im Netz war. Auch umgekehrt gilt: Echte Inhalte können durch falsche Beschriftung irreführen.

Genau diese Prüfroutine übt dein Kind bei Falschmeldungen. Vier Fragen dazu stehen im Beitrag Fake News erkennen.

Das Gespräch nach Alter

Du musst kein Technikprofi sein. Du brauchst ein Angebot, das dein Kind versteht. Die Sätze sind Praxisvorschläge, keine erprobten Skripte.

Wie ihr daraus eine Familienregel macht, behandelt Kapitel 8 „KI verstehen. Antworten, Fehler und Vertrauen“ im Elternkurs Digital aufwachsen.

Wenn ein Fake-Bild auftaucht

Bleib ruhig und geh Schritt für Schritt vor. Ob dein Kind betroffen ist oder ein Bild nur bekommen hat: Wichtig ist, dass es keine Schuld trägt und weiß, wohin es sich wenden kann.

1. Zuhören. Sag deinem Kind, dass es keine Schuld trägt und dass ihr es gemeinsam klärt.
2. Nichts weiterleiten. Sexuelle Bilder Minderjähriger nie speichern, kopieren oder weiterschicken, auch nicht als Warnung.
3. Fundort notieren. Halte fest, wo das Bild aufgetaucht ist, statt es zu kopieren.
4. Polizei einbeziehen. Wende dich an die Dienststelle oder die Onlinewache deines Bundeslands (nicht für Notfälle).
5. Hilfe holen. Beratung gibt es kostenlos, auch für Eltern (Nummern im Kasten oben).

Bei Beleidigungen ohne sexuellen Inhalt hilft es, Nachrichten mit Datum und Absender zu sichern. Für intime Bilder gilt das nicht: Die dürfen nicht kopiert werden. Meldungen nimmt auch jugendschutz.net entgegen (Stand: Oktober 2026), eine Löschung ist damit nicht garantiert.

Wenn mit einem Bild gedroht oder Geld verlangt wird, hilft der Beitrag zu Sextortion. Zum Umgang mit eigenen Bildern lies den Beitrag zu Sexting.

Rechtslage in Kürze

Sexuelle Darstellungen von Kindern unter 14 gelten als kinderpornografisch (§ 184b StGB). Strafbar ist schon der Besitz, auch bei täuschend echten, etwa mit KI erzeugten Bildern („wirklichkeitsnahes Geschehen“). Das steht auf gesetze-im-internet.de.

Für sexuelle Bilder von 14- bis 17-Jährigen gilt § 184c StGB mit einer engen Ausnahme für den persönlichen Gebrauch mit Einwilligung der abgebildeten Person. Weiterleiten deckt das nicht. Laut Polizei ist Weiterverbreiten ohne Zustimmung immer strafbar.

Das ist keine Rechtsberatung. Im Zweifel hilft eine Beratungsstelle oder die Polizei. Ob und wie das Recht künftig angepasst wird, steht aktuell nicht fest.

Häufige Fragen

Was ist eine Deepfake-App?

Eine Deepfake-App verändert Bilder, Videos oder Stimmen mit KI so, dass sie etwas zeigen, das nie passiert ist. Meist wird ein Gesicht ausgetauscht.

Ist eine Deepfake-App für Kinder geeignet?

Das lässt sich nicht pauschal sagen. Prüft gemeinsam im App Store die Altersangabe und die Beschreibung der App und sprecht über die Regeln, bevor dein Kind sie nutzt.

Ist ein künstliches Bild erlaubt, wenn es „nur ein Spaß“ ist?

Nein, das entscheidet nicht der Anlass. Betrifft das Bild eine reale Person, kann es verletzen, und sexualisierte Bilder Minderjähriger sind auch als KI-Bilder strafbar.

Wie erkenne ich, ob ein Bild echt ist?

Es gibt keinen sicheren Test. Achte auf den Kontext, prüfe, wo das Bild zuerst auftauchte, und nutze Faktenchecks.

Was tue ich, wenn mein Kind ein Fake-Bild bekommen hat?

Leite es nicht weiter und speichere es nicht. Notiere den Fundort und sprich mit der Polizei, wenn es sexuelle Inhalte betrifft.

Was du als Nächstes tun kannst

Frag dein Kind in dieser Woche ohne Anlass: „Hast du schon mal eine App gesehen, die Gesichter verändert?“ Hör erst zu, bevor du etwas erklärst. Wie KI-Chatbots dazugehören, liest du im Beitrag Character AI gefährlich?