Wenn die KI zum Garanten der Lüge wird
Werkzeuge, die Fake-Bilder von echten trennen sollten, haben in dokumentierten Fällen genau das Gegenteil getan: die Fälschung als echt bestätigt.
Im März 2026 kursierten auf X vollständig erfundene Videos eines iranischen Raketenangriffs auf Tel Aviv — millionenfach geteilt. Grok, der KI-Assistent der Plattform, bestätigte sie als echt und berief sich zum Beleg auf Reuters und CNN; keinen solchen Bericht gab es. Euronews dokumentierte den Fall am 6. März.
Laut Internationalem KI-Sicherheitsbericht 2026 sind rund 68 Prozent der heutigen Deepfakes praktisch nicht mehr von echtem Material zu unterscheiden; in kontrollierten Tests blieb die Trefferquote von Menschen nahe am Zufallsniveau. Die automatische Prüfung sollte die Lösung sein — die Daten desselben Jahres zeigen: Die Werkzeuge haben dasselbe Problem und verschärfen es mitunter.
Drei Fälle, ein Muster
Im selben Monat veröffentlichte im US-Zwischenwahlkampf ein Parteikomitee ein Video des Gegenkandidaten, in dem er Dinge sagte, die er nie gesagt hatte. Der Hinweis „KI-generiert“ stand in winziger Schrift und nur wenige Sekunden im Bild. CNN nannte es den ersten politischen Deepfake, der einen Kandidaten über die gesamte Länge eines Clips realistisch nachbildete.
2 Monate später kursierte ein Bild der italienischen Ministerpräsidentin Giorgia Meloni in einer erfundenen Situation; Reuters und die Associated Press bestätigten, dass es von einer KI erzeugt worden war — zuvor aber war es lange ohne jeden Warnhinweis im Umlauf. Drei Fälle aus drei Welten — Krieg, Wahlkampf, Politik — und ein gemeinsamer Kern: Genau dort, wo die KI helfen sollte, versagte die Unterscheidung zwischen echt und erfunden.
Warum die Werkzeuge danebenliegen
Ein Sprachmodell prüft keine Wahrheit; es erzeugt die wahrscheinlichste Fortsetzung des Textes. Auf die Frage, wie es Bilder prüfe, antwortete Grok selbst: Mustererkennung aus Trainingsdaten und ein Vergleich mehrerer Quellen — kein Laborinstrument. So ausgewogen wie die Daten, aus denen es lernt, ist auch die Antwort; sind die Daten schief, ist es das Urteil auch.
Der zweite Grund ist ein Wettrüsten zwischen Erzeugung und Erkennung. Jede genauere Erkennung wird zur Trainingsvorlage der nächsten Fälschungsgeneration, die genau unter dieser Methode hindurchschlüpfen soll; Forscher nennen es das Katz-und-Maus-Spiel der KI. Kein festes Erkennungswerkzeug kann dauerhaft wirksam bleiben.
Der dritte Grund ist die Uneinheitlichkeit der Werkzeuge. In einem Test mit 15 vollständig echten Bildern verwarf ein System, das „branchenführende Genauigkeit“ bewarb, 6 davon als Fälschungen — eine Fehlerquote von 40 Prozent — während zwei andere Systeme alle 15 richtig erkannten. Auch die Verwerfung echter Aufnahmen ist also verbreitet; ein gemeinsamer Standard fehlt.
Die falschen Behauptungen stammen aus der Zeit des Iran-Kriegs, der nach Angaben von AP am 28. Februar begann. Eine NewsGuard-Studie zeigt: Wer Chatbots danach fragt, bekommt die falsche Behauptung in mehr als 50 Prozent der Antworten zurück — bei einigen Modellen, darunter einem europäischen, sogar regelmäßig.
Und Europa?
Auch deutsche Medienhäuser standen vor derselben Frage — mit anderen Folgen, denn was bundesweit verbreitet wird, trägt bis in die Debatten des Bundestags. Der EU AI Act verlangt seit 2024 die Kennzeichnung synthetischer Inhalte; verpflichtet sind die Anbieter, und die Netzwerke, über die das Material tatsächlich läuft, sind nicht immer die Anbieter. Genau in dieser Lücke zirkulierten die Clips.
Die Wende: Herkunft statt Jagd
Die praktische Antwort der Branche ist ein Richtungswechsel. Statt jedes verdächtige Bild erst nach der Veröffentlichung zu prüfen — was die Menge an erzeugtem Material unmöglich macht — wird die Echtheit des echten Inhalts vom Moment der Entstehung an festgehalten: kryptografische Wasserzeichen, verifizierte Metadaten, Standards wie C2PA, die die Herkunft eines Bildes von der Kamera bis zur Veröffentlichung zurückverfolgen. Die Beweislast verschiebt sich von „beweise, dass es nicht gefälscht ist“ zu „belege von Anfang an, woher es stammt“.
Solange die Erkennung auf statistischem Raten beruht statt auf nachvollziehbarer Herkunft, wiederholt sich das Muster: Die KI, die als neutrale Schiedsrichterin auftritt, ist längst Partei im selben Spiel — sie erzeugt Deepfakes, bestätigt sie und verwirft mitunter echte Aufnahmen. Die eigentliche Lösung liegt dort, wo der Beweis beginnt.
Der wichtigste Name, der in keiner Schlagzeile stand
Nach Angaben von Iran International wurde Mohammadparsa Amini am 18. Dey 1404 — dem 8. Januar 2026 — in Fardis bei Karadsch durch einen Schuss der Sicherheitskräfte in den unteren Rücken getötet; er wurde 17 Jahre alt. In sozialen Medien verbreitete Videos zeigten Ausschnitte aus seinem Leben, seiner Beerdigung und der Gedenkfeier. Einer seiner bekannten Sätze, überliefert von Javidan Iran: „Ich werde etwas tun, auf das ihr stolz sein könnt.“ In den Tagen, in denen die Nachrichten vom Krieg und seinen maschinellen Prüfungen handelten, blieb sein Name ungenannt.
Zum Weiterlesen
Die Chronologie des Krieges führt die Anatomie des Krieges 2026. Die vollständige Aufstellung der Fälschungen, mit Quelle je Fall, liegt in den Deepfake-Fallakten; das Prisonbreak-Netzwerk zeigt, dass die Gegenseite dasselbe betrieb. Für den Tag, an dem das Netz ausfällt, gibt es den Toosheh-Überlebensleitfaden, und wer dieselbe Prüfung auf die Sprache des Krieges anwenden will, findet im Werkzeugkasten für Kriegs-Titel die passenden Fragen.
