Deepfake erkennen: 4 Fragen statt Pixelsuche

Wer Deepfakes an sechs Fingern oder schiefen Zähnen erkennen will, verlässt sich auf Hinweise, die schnell veralten. Verlässlicher ist der Blick auf den Kontext: Woher kommt das Video, und bestätigt es jemand Seriöses?

Dieser Ratgeber vertieft einen Abschnitt aus dem Überblick KI und Kinder: Chatbots, Hausaufgaben und Deepfakes. Die Angaben stützen sich auf Seiten von klicksafe und dem Bundesamt für Sicherheit in der Informationstechnik (Stand: Oktober 2026).

Was ist ein Deepfake?

Ein Deepfake ist eine Aufnahme, die mit Computerprogrammen hergestellt oder verändert wurde und eine Person Dinge tun oder sagen lässt, die nicht passiert sind. Meistens sind Videos gemeint, es kann sich aber auch um Bilder oder Tonaufnahmen handeln, so beschreibt es klicksafe.

Das BSI nennt drei gängige Verfahren: Gesichter in Videos tauschen, Mimik und Kopfbewegung einer Person steuern und Stimmen künstlich erzeugen oder umwandeln. Mit KI geht das heute laut BSI mit vergleichsweise wenig Aufwand und Wissen, und für einen Gesichtstausch reichen wenige Minuten hochwertiges Videomaterial der Zielperson.

Dein Kind begegnet solchen Inhalten vermutlich auch ohne eigene Suche. In der JIM-Studie 2025 gaben 67 Prozent der befragten 12- bis 19-Jährigen an, im Monat vor der Befragung online auf Fake News gestoßen zu sein. Das sind Selbstauskünfte über Begegnungen, nicht darüber, wie oft Deepfakes darunter waren.

Woran erkennst du ein Deepfake auf den ersten Blick?

Bei vielen Deepfakes verraten kleine Fehler die Fälschung. Klicksafe nennt unnatürliche Mimik, einen leeren Blick und nicht korrekte Schattenwürfe im Gesicht als typische Merkmale. Es hilft, das Video im Vollbildmodus anzusehen.

Auf diese Merkmale solltest du dich aber nicht allein verlassen. Eine Aufnahme kann bearbeitet sein, ohne dass sich das an einem einzelnen Merkmal sicher zeigt. Fehler an Händen oder Schrift sind Hinweise, aber kein dauerhafter Echtheitstest. Klicksafe geht außerdem davon aus, dass die Technik besser wird und Fälschungen irgendwann nicht mehr als solche zu erkennen sind.

Fachleute sind uneins, ob Erkennungsprogramme das Problem lösen. Für den Familienalltag taugen sie deshalb höchstens als Zusatz.

Warum Kinder besonders betroffen sind

Kinder und Jugendliche bewegen sich viel in Kurzvideos, Chats und Storys, in denen Inhalte schnell weitergereicht werden. Prüfen kostet dort Zeit, Weiterleiten nur einen Tipp. Das ist kein Charakterfehler deines Kindes, sondern die Logik dieser Angebote.

Dazu kommt ein zweiter Effekt, den klicksafe als größere Gefahr beschreibt: Wenn alles gefälscht sein könnte, können auch echte Aufnahmen als Deepfake abgetan werden. Daraus kann das Gefühl entstehen, keiner Quelle mehr trauen zu können. Das Ziel ist deshalb nicht Misstrauen gegenüber allem, sondern eine Gewohnheit, die Quellen ernst nimmt und Unsicheres offen lässt.

Die 4 Fragen, die dein Kind selbst stellen kann

Statt Pixel zu suchen, kannst du mit deinem Kind vier Fragen üben. Sie folgen den Prüffragen von klicksafe und lassen sich auch bei Fotos, Sprachnachrichten und Texten anwenden.

1. Wer zeigt das, und wo noch? Gibt es das Video auch auf seriösen Nachrichtenseiten oder nur auf Social-Media-Plattformen und dubiosen Webseiten?
2. Hat es schon jemand geprüft? Faktencheck-Portale wie Mimikama, CORRECTIV oder der dpa-Faktencheck nehmen sich verbreitete Videos oft vor.
3. Wann ist es zuerst aufgetaucht? Mit einer Suchmaschine lässt sich herausfinden, wann und wo ein Video zum ersten Mal erschien.
4. Passt es zu der Person? Widerspricht die Aussage dem, was sie sonst sagt und tut, ist das ein Warnzeichen.

Eine Antwort ist selten ein Beweis. Mehrere offene Antworten genügen aber, um ein Video nicht weiterzuschicken, solange es ungeprüft ist.

Hilfreich ist auch, mit deinem Kind über Gefühle zu sprechen, die ein Video auslöst. Je stärker die Wut oder der Schreck, desto wichtiger ist die kurze Pause vor dem Teilen. Du kannst sagen: „Wenn dich ein Video richtig aufregt, schauen wir es uns zusammen noch einmal an, bevor es jemand weiterschickt.“

Ein Beispiel für den Ablauf, ohne echten Fall: Ein Video zeigt angeblich eine bekannte Person mit einer überraschenden Aussage. Dein Kind sucht zuerst, ob seriöse Nachrichtenseiten darüber berichten, schaut bei einem Faktencheck-Portal nach und prüft, wann das Video zuerst auftauchte. Findet es nichts, lautet das Ergebnis „noch unklar“, und das Video wird nicht geteilt.

Was ist mit gefälschten Stimmen?

Auch Stimmen lassen sich nachbilden. Das BSI beschreibt Verfahren, die zu einem Text eine Stimme erzeugen oder eine vorhandene Aufnahme in eine Zielstimme umwandeln. Für hohe Qualität braucht es Aufnahmen der Zielperson, und je weniger Material vorliegt, desto eher leidet die Qualität.

Für den Alltag heißt das: Eine Stimme allein sollte keine Zahlung und keine Weitergabe sensibler Informationen auslösen. Meldet sich eine vertraute Person mit einer dringenden Nachricht, fragst du über einen bereits bekannten Kontaktweg zurück.

Was, wenn ein bloßstellendes Bild kursiert?

Ein beleidigendes oder sexualisiertes Bild kann bearbeitet oder künstlich erzeugt sein, und die Bloßstellung ist trotzdem real. Der Satz „Das ist doch nicht echt“ reicht deshalb nicht als Antwort. Deine Familie muss keine technische Untersuchung durchführen, um die Belastung ernst zu nehmen und das Weiterverbreiten zu stoppen.

Wichtig ist die rechtliche Seite bei Bildern von Minderjährigen. Sexualisierte Darstellungen Minderjähriger sind auch als täuschend echte KI-Bilder strafbar, schon der Besitz ist es (§ 184b StGB). Solche Bilder werden deshalb nicht gespeichert, kopiert oder weitergeleitet, auch nicht zur Warnung. Notiere, wo du sie gefunden hast, und schalte die Polizei ein.

Wie du ruhig bleibst, zuhörst und vorgehst, wenn dein Kind betroffen ist, steht im Überblick zu Cybermobbing und Risiken im Netz.

Eigene Deepfakes: Wann hört der Spaß auf?

Kinder und Jugendliche erzeugen mit Apps schnell selbst Bilder und Stimmen, oft als Scherz. „Die KI hat das gemacht“ erklärt, wie etwas entstanden ist, entschuldigt aber nicht automatisch das Teilen einer verletzenden Darstellung.

Vor dem Veröffentlichen helfen vier Fragen:

• Betrifft das Bild oder die Stimme eine reale Person?
• Könnte es als echt verstanden werden?
• Gibt es dafür eine Erlaubnis?
• Ist eine Kennzeichnung nötig?

Wenn dein Kind eine Frage nicht beantworten kann, wartet es mit dem Teilen und fragt dich. Ein ähnliches Muster, ungeprüfte Inhalte zu glauben, begegnet dir auch bei Online-Szenen, die gezielt Wut erzeugen, wie im Ratgeber zur Manosphere.

Nach Alter: so sprichst du darüber

Die Einteilung stammt aus der Medienerziehung und ist keine Regel von Anbietern oder Behörden.

Wie du das Prüfen zur Familiengewohnheit machst

Eine Regel hält, wenn alle sie verstehen. Der Kurs schlägt vor, Behauptungen außerhalb der Antwort zu prüfen: Welche Aussage muss stimmen, und wo lässt sich das nachsehen? Am Ende steht eine ehrliche Einordnung, ob etwas geprüft, noch unklar oder ungeeignet ist. Das ist ein Praxisvorschlag des Kurses, nicht wissenschaftlich validiert.

Wie sich daraus eine Familienregel für Bilder, Stimmen und wichtige Entscheidungen entwickelt, zeigt Kapitel 8 im Elternkurs Digital aufwachsen, unter anderem mit dem Arbeitsblatt „Ein Bild ist eine Behauptung“.

Häufige Fragen

Kann man Deepfakes immer erkennen?

Nein. Viele lassen sich noch an Mimik, Blick oder Schatten erkennen, doch klicksafe geht davon aus, dass die Technik besser wird. Verlass dich deshalb auf Quelle und Gegenprobe.

Gibt es ein Gesetz gegen Deepfakes?

Strafbar sind zum Beispiel sexualisierte Darstellungen Minderjähriger, auch als täuschend echtes KI-Bild (§ 184b StGB). Wie ein Einzelfall zu beurteilen ist, klären eine Beratungsstelle oder die Polizei.

Sollte ich ein Deepfake teilen, um andere zu warnen?

Besser nicht. Teile stattdessen einen Link zu einer Faktencheck-Seite oder beschreibe, was gefälscht ist. Bei strafbaren Bildern von Minderjährigen gilt: nicht weiterleiten, sondern Polizei einschalten.

Ab welchem Alter soll ich mit meinem Kind darüber sprechen?

Sobald dein Kind Videos und Bilder im Netz sieht. Im Grundschulalter reicht der Gedanke, dass Aufnahmen verändert sein können. Die Prüffragen passen ab etwa 10 Jahren.

Was du als Nächstes tun kannst

Sucht euch gemeinsam ein Video aus, das gerade in der Klasse die Runde macht, und geht die vier Fragen durch. Haltet am Ende fest: geprüft, noch unklar oder ungeeignet.