Wie man Deepfakes erkennt (unabhängig von ihrer Kennzeichnung)

Woran erkennen Sie, ob ein Foto oder Video echt ist? Vermutlich schauen Sie genauer hin: auf die Hände, auf den Schattenwurf. So steht es auch in den verbreiteten Unterrichtsmaterialien, und vor drei Jahren war das ein brauchbarer Rat. Inzwischen haben die Generatoren die Fehler abgestellt, an denen sich Fälschungen früher festmachen ließen. Wer weiter auf das Bild starrt, verliert Zeit und gewinnt ein trügerisches Sicherheitsgefühl.

Die Zahlen dazu sind deutlich. 89 Prozent der Menschen in Deutschland halten Deepfakes für gefährlich, ein Drittel traut sich zu, einen zu erkennen (Bitkom, Mai 2026). Und selbst dieses Drittel überschätzt sich. Eine Metaanalyse hat 2024 insgesamt 56 Studien mit rund 86.000 Teilnehmenden ausgewertet und kommt bei hochwertigen Fälschungen auf Trefferquoten, die kaum über dem Raten liegen.

Bei Jugendlichen kommt eine Schwierigkeit dazu, die nichts mit KI zu tun hat. Die Sonderauswertung der PISA-Studie 2022 zeigt, dass viele von ihnen bei der Online-Recherche nur eine einzige Quelle heranziehen und Inhalte nicht prüfen, bevor sie sie weiterschicken.

Was seit dem 2. August gilt

Seit dem 2. August 2026 sind die Transparenzpflichten aus Artikel 50 der KI-Verordnung anwendbar. Wer ein Deepfake veröffentlicht, also KI-erzeugtes Bild-, Ton- oder Videomaterial, das realen Personen, Orten oder Ereignissen ähnelt und für echt gehalten werden könnte, muss offenlegen, dass der Inhalt künstlich erzeugt wurde. Die Anbieter der Generatoren müssen ihre Ausgaben zusätzlich maschinenlesbar markieren, wofür bei älteren Systemen eine Frist bis zum 2. Dezember 2026 läuft. Bußgelder reichen bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Zuständig für die Marktüberwachung ist in Deutschland die Bundesnetzagentur.

In vier Monaten wird noch eine Änderung hinzukommen: Ab dem 2. Dezember 2026 sind KI-Systeme verboten, die nicht einvernehmliche intime Aufnahmen oder Missbrauchsdarstellungen von Kindern erzeugen. Gemeint sind die Apps, mit denen sich Fotos von Mitschülerinnen „ausziehen“ lassen. In Spanien wurden 2023 über zwanzig minderjährige Schülerinnen auf diesem Weg zu Opfern, die Bilder stammten von Mitschülern (dokumentiert in der klicksafe-Broschüre Deep Fake. Deep Impact.).

Ich halte die Kennzeichnungspflicht für richtig und für überfällig. Sie zwingt professionelle Kommunikation zu einer Deklaration, die bislang dem guten Willen überlassen blieb. Das Problem, das Deepfakes schaffen, löst sie allerdings nicht.

Warum das Etikett nicht reicht

Wer wird sich daran halten? Eine Agentur, die für einen Kunden ein Werbevideo mit synthetischen Gesichtern produziert, wird das Kennzeichen setzen. Der Urheber eines Videos, das eine Politikerin diskreditieren oder eine Mitschülerin demütigen soll, wird es nicht tun, und ein Bußgeld von 15 Millionen Euro dürfte ein anonymes Konto in einem Telegram-Kanal wenig beeindrucken.

Die maschinenlesbare Markierung hat ein eigenes Problem. Der verbreitete Standard C2PA hinterlegt die Herkunftsangabe in den Metadaten der Datei. Metadaten aber überstehen den Upload auf den großen Plattformen meist nicht, weil deren Komprimierungsroutinen sie beim Umrechnen entfernen. Ein Screenshot löscht sie ohnehin. Unsichtbare Wasserzeichen im Bild selbst halten mehr aus, lassen sich aber durch erneutes Generieren mit einem anderen Modell weitgehend entfernen.

Eine ganze Kategorie fällt zudem aus der Pflicht heraus, nämlich Cheap Fakes: echtes Material, das durch einen Schnitt, eine Verlangsamung oder einen anderen Bildausschnitt seine Bedeutung verliert. Das bekannteste Beispiel ist ein verlangsamtes Video von Nancy Pelosi, das den Eindruck erweckte, sie sei betrunken. Solche Fälschungen kommen ohne KI aus und sind deshalb nicht kennzeichnungspflichtig, obwohl sie derzeit als das größere Problem gelten.

Erschwerend kommt hinzu, was Gordon Pennycook u. a. in einer Studie mit über 5.000 Teilnehmenden nachgewiesen haben: Warnhinweise senken die Glaubwürdigkeit der markierten Falschmeldungen, lassen aber die unmarkierten glaubwürdiger erscheinen als in einer Kontrollgruppe ganz ohne Markierung. Implied truth effect heißt das, der Schluss vom fehlenden Hinweis auf Wahrheit. Ob er sich eins zu eins auf Bilder übertragen lässt, ist ungeklärt. Naheliegend ist es, weil wir Bildern einen Beweiswert zuschreiben, den sie längst verloren haben.

Umgekehrt funktioniert das übrigens auch. Sobald jeder weiß, dass alles gefälscht sein kann, lässt sich echtes Material als Fälschung abtun. In der Forschung heißt das Liar’s Dividend, die Dividende des Lügners. Eine Kennzeichnungspflicht hilft dagegen nicht, denn ein fehlendes Kennzeichen beweist natürlich nichts.

Was Faktenprüfer anders machen

2017 haben Sam Wineburg und Sarah McGrew von der Stanford University drei Gruppen dieselbe Aufgabe gestellt: zehn promovierten Historikern, zehn professionellen Faktenprüfern und 25 Studierenden. Alle sollten die Glaubwürdigkeit unbekannter Websites einschätzen, darunter die einer Organisation, die seriös auftrat und von Bürgerrechtsorganisationen als Hassgruppe geführt wird.

Der Unterschied lag im Verfahren. Historiker und Studierende blieben auf der Seite und lasen sie gründlich, also vertikal. Sie beurteilten Gestaltung, Logo und Domainnamen, alles Merkmale, die sich ohne Aufwand herstellen lassen. Die Faktenprüfer verließen die Seite nach wenigen Sekunden, öffneten neue Tabs und sahen anderswo nach, wer hinter ihr steht. Sie urteilten treffsicherer und brauchten dafür einen Bruchteil der Zeit.

Übertragen auf Deepfakes heißt laterales Lesen: Die Prüfung verlässt das Bild. Sie beginnt bei dem Konto, das den Beitrag verbreitet hat, und bei dessen Vorgeschichte. Sie geht weiter zu der Frage, ob unabhängige Redaktionen dasselbe berichten. Und sie endet bei der Rückwärts-Bildersuche, die ältere Fundstellen und den ursprünglichen Kontext zutage fördert. Bei einem technisch makellosen Fake ist das die einzige Prüfung, die überhaupt noch etwas ergibt.

Lässt sich das unterrichten? Ja, und zwar mit überschaubarem Aufwand. Wineburg und sein Team haben Lehrkräfte in einem US-Schulbezirk sechs Unterrichtsstunden zu je 50 Minuten in einem regulären Politikkurs durchführen lassen. Die 271 Schüler*innen der Interventionsklassen schätzten die Glaubwürdigkeit digitaler Inhalte anschließend deutlich besser ein als die 228 Schüler*innen der Vergleichsklassen. Sechs Stunden also, verteilt über ein Halbjahr. In meinem Praxisbuch finden Sie konkrete Anregungen dafür, in Stunde 23 („Deepfakes erkennen – Indizien und Grenzen“) und Stunde 34 („Was hilft gegen Deepfakes im politischen Kontext?“).

Was das für Ihren Unterricht heißt

Prüfen Sie zuerst, wie viel Platz die Merkmalslisten in Ihrem Material einnehmen, und verschieben Sie das Gewicht zur Quellenprüfung. Was Schüler*innen brauchen, ist eine Routine, die in jedem Fach greift, sobald eine Quelle unbekannt ist.

Die Kennzeichnungspflicht selbst gehört in den Unterricht, und zwar in beide Richtungen. Schüler*innen sollten wissen, dass es sie gibt, damit sie ein ungekennzeichnetes Werbevideo als Regelverstoß einordnen können. Sie sollten ebenso wissen, dass ein fehlendes Kennzeichen kein Echtheitsnachweis ist. Und wenn Sie ohnehin dabei sind: Kennzeichnen Sie auch selbst, was Sie in Präsentationen und Elternbriefen aus dem Generator übernehmen.

Die Kennzeichnungspflicht ordnet einen Markt. Sie wird dafür sorgen, dass Werbung, Behördenkommunikation und journalistische Produkte künftig ausweisen, was aus dem Generator stammt. Über das Video, das am Sonntagabend in einer Klassengruppe auftaucht, sagt sie nichts. Ob es echt ist, lässt sich am Bild nicht mehr entscheiden. Die Antwort liegt woanders im Netz, und sie kostet zwei Minuten und die Bereitschaft, den Tab zu wechseln.