Medienverifikation durch Gretchen AI:
Fragen und Antworten
Das Media Verification Dashboard
Wofür wurde das Gretchen AI- Dashboard entwickelt und was genau macht es?
Unser Gretchen AI Media Verification Dashboard integriert zwei wesentliche Aufgaben, um Menschen bei der Erkennung von Falschinformationen zu unterstützen:
- KI-gestützte Deepfake-Erkennung, um die Authentizität eines Bildes zu prüfen: d. h. zu analysieren, ob ein Bild oder Video manipuliert oder synthetisch generiert wurde;
- Kontextanalyse, um zu prüfen, ob das Bild oder Video in seinem ursprünglichen, wahrheitsgemäßen Kontext präsentiert wird oder aber aus dem Zusammenhang gerissen wurde.
Ist die Genauigkeit des Tools wissenschaftlich belegt?
Ja, wir haben unser Tool gegen wissenschaftliche Benchmarks und andere „State-of-the-Art“ (SOTA) Methoden getestet. Bei Benchmarks wie Deepfake-Eval-2024 erzielten wir eine Leistungssteigerung von bis zu +44 % gegenüber dem State-of-the-Art.
Warum ist unser Tool besser als andere?
Wir analysieren Bilder auf mehreren Skalen – von winzigen Bildbereichen (Patches) zur Erkennung lokaler Artefakte bis hin zum Gesamtbild. Unser Modell nutzt modernste Vision-Foundation-Modelle und verfügt über ein ganzheitliches Wissen durch das Training auf einer enormen Bandbreite an Deepfake-Typen.
Deepfake-Erkennung zur Berechnung des Authentizitäts-Scores
Wofür ist das Tool zur Bild-Deepfake-Erkennung gedacht?
Dieses Tool hilft Nutzern, manipulierte oder synthetische, also KI-generierte, Bilder zu erkennen. Es analysiert visuelle und digitale Signale im Bild und erstellt einen zusammengefassten „Authentizitäts-Score“. Dieser schätzt ein, wie wahrscheinlich es ist, dass das Bild künstlich erzeugt oder manipuliert wurde.
WICHTIG: Es ersetzt nicht das menschliche Urteilsvermögen, sondern dient als Entscheidungshilfe. Wir zeigen Ihnen, ob eine vertiefte Kontextanalyse ihres Bildes in Frage kommt, die Ihnen weitere Details zu Ursprung und Verbreitung geben kann.
Welche Arten der Deepfake-Erkennung bietet Gretchen?
Es sind zwei Arten von Erkennungsmechanismen integriert:
- Menschliche Gesichter: Der erste Typ konzentriert sich ausschließlich auf Gesichter. Er prüft, ob ein Gesicht mittels Face-Swap, Face-Reenactment (Änderung von Emotionen oder Lippensynchronität) oder Face-Editing (Modifizierung von Merkmalen, z. B. Altern) verändert wurde. Diese Manipulationen erfolgen meist lokal, während der Rest des Bildes unverändert bleibt.
- Synthese-Erkennung: Der zweite Mechanismus analysiert das gesamte Bild und prüft, ob es vollständig KI-generiert wurde. Das System schlägt auch dann Alarm, wenn nur ein kleiner Teil durch KI-Tools wie Midjourney, Qwen oder Nano Banana verändert wurde.
Obwohl beide Methoden unabhängig arbeiten, weisen beide darauf hin, sobald ein Bild die Kriterien für Authentizität nicht erfüllt.
Bietet Gretchen AI eine visuelle Markierung der manipulierten Bereiche (Heatmap) an?
Ja, in allen Enterprise-Tarifen bieten wir visuelle Markierungen an, die hervorheben, welche Bildregionen zur Entscheidung des Modells beigetragen haben. Besonders wichtig ist uns dabei Transparenz darüber, was diese Ergebnisse tatsächlich bedeuten: Eine solche Markierung zeigt, worauf unser Detektor seine Entscheidung gestützt hat – sie ist kein forensisch unumstößlicher Beweis für eine Manipulation. Bei lokalen Eingriffen wie Face-Swaps kann sie sehr aufschlussreich sein; bei vollständig KI-generierten Inhalten hingegen gibt es keine einzelne „manipulierte Stelle“, die man sinnvoll einkreisen könnte. Deshalb kombinieren wir die visuelle Kennzeichnung stets mit einem kalibrierten Konfidenzwert (Confidence Score) und – falls erforderlich – einer lückenlos nachvollziehbaren Dokumentation, damit das Ergebnis auch in Compliance- und Beweiskontexten absolut belastbar bleibt.
Was sehe ich nach meinem Upload auf dem Dashboard?
Sobald Sie ein Bild oder Video in unser Dashboard geladen haben, können Sie entscheiden, ob Sie eine schnelle Deepfake-Erkennung, oder eine umfassende Kontextanalyse inklusive Deepfake-Erkennung starten.
Die resultierenden Authentizitäts-Scores werden direkt unter den jeweiligen Bildern angezeigt.
Darunter folgen die Ergebnisse unserer netzweiten Suche nach Referenzbildern. Diese zeigen die Verbreitung der gefundenen Kontextinformationen. Datum, Handlung, Ort, Person und Quelle werden in einem Schritt recherchiert und erscheinen in einer übersichtlichen Auswertung. So erkennen Sie Konsistenzen und Widersprüche auf einen Blick.
Wie ist der Authentizitäts-Score zu interpretieren?
Ein sehr niedriger Score (unter 10 %) bedeutet, dass starke Indizien für eine synthetische Erzeugung oder Manipulation vorliegen.
Der Bereich bis ca. 50 % deutet auf eine hohe Wahrscheinlichkeit hin, dass das vorliegende Bild manipuliert wurde.
Umgekehrt bedeutet das Urteil „Sicher authentisch“ (um 100%), dass eine hohe Gewissheit über die Echtheit des Bildes besteht. Da die Schätzung mehrere Schritte umfasst, die auch uneindeutig sein können, geben wir diese Ergebnisse transparent heraus.
Wir glauben, dass die Offenlegung der algorithmischen Gewissheit (auch in Zweifelsfällen) der Schlüssel zur Vertrauensbildung ist.
Warum gibt es manchmal das Ergebnis „Uneindeutig/Unsicher“?
KI-generierte Medien entwickeln sich rasant. Neue Modelle hinterlassen oft digitale Fingerabdrücke, die dem Erkennungsmodell noch nicht bekannt sind.
Auf der anderen Seite können reale Bilder durch starke Bearbeitung, Filter oder Kompression Artefakte aufweisen, die für den Detektor verdächtig wirken. Auch moderne Smartphone-Kameras nutzen oft (automatisch) KI-Filter. In solchen Fällen empfehlen wir eine weitere Untersuchung mithilfe der Metadaten und Kontextanalyse des Dashboards.
Welche Arten von Deepfake-Modellen kann das Tool erkennen?
Unsere Modelle sind robust gegenüber einer Vielzahl von Verfahren, da sie mit Daten aus über 120 verschiedenen Algorithmen trainiert wurden. Dazu gehören Methoden zur Bildmanipulation (z. B. Face-Swap) sowie generative Modelle (Vollsynthese). Technisch abgedeckte Methoden sind unter anderem: FaceShifter, FaceSwap, SimSwap, DeepFaceLab, HeyGen, VQGAN, StyleGAN3, SD-2.1, Midjourney 6, Gemini 2.5 Flash, Nano Banana, Grok-Imagine und viele weitere.
Wo liegen die Grenzen des Tools?
Das Tool arbeitet am besten mit Bildern in Originalauflösung. Screenshots oder skalierte Versionen verlieren oft wichtige Signale. Rauschen oder starke JPEG-Kompression erhöhen die Unsicherheit. Derzeit ist das Tool für Gesichter und menschenzentrierte Bilder optimiert; unbelebte Objekte oder Landschaften sind schwerer zu erkennen.
Kann das Tool irren?
Kurz gesagt: Ja. Kein KI-Tool ist perfekt. Es gibt zwei Fehlerszenarien:
- Falsch Positive: Ein echtes Bild wird als Fake markiert.
- Falsch Negative: Ein manipuliertes Bild wird als echt eingestuft.
Deshalb verfolgen wir die Philosophie „Assistieren, nicht ersetzen“. Unser Dashboard ergänzt die Forensik um die Kontextanalyse für eine 360-Grad-Bewertung, um Faktenchecker bestmöglich zu unterstützen.
Beeinflussen Weichzeichner (z. B. „Beautifier“) die Erkennung?
Wenn diese Filter in erheblichem Maße generative KI nutzen, schlägt der Detektor an. Da die Wirkung dieser Filter jedoch stark variiert, arbeiten wir kontinuierlich daran, die Robustheit gegenüber solchen Einflüssen zu verbessern.
Die API
Was sind die Voraussetzungen für die Gretchen AI API?
Für die Nutzung der Gretchen AI API benötigen Sie ein aktives Gretchen-AI-Konto sowie einen API-Schlüssel, den Sie in Ihrem Dashboard generieren. Die Authentifizierung erfolgt über diesen Schlüssel im Request-Header. Hochgeladene Inhalte müssen in einem untersützten Format vorliegen. Weitere Details finden Sie in unserer Anleitung.
Welche Vorteile und Nachteile hat die Integration?
Die API-Integration ermöglicht es Ihnen, die Deepfake-Erkennung von Gretchen AI direkt in Ihre eigenen Systeme und Workflows einzubinden – etwa in Redaktions-, Verifizierungs- oder Content-Management-Tools. So lassen sich auch große Mengen automatisiert und skalierbar prüfen, ebenso wie Live-Daten in Echtzeit, etwa laufende Streams oder Übertragungen. Alles nahtlos integriert in Ihre bestehenden Prozesse und ohne manuelle Uploads. Für gelegentliche Einzelprüfungen steht Ihnen alternativ jederzeit unsere Weboberfläche zur Verfügung.
Medien-Kontextanalyse
Was macht die Kontextanalyse?
Sie arbeitet unabhängig vom Authentizitäts-Score und sucht im Web nach identischen, ähnlichen oder ereignisbezogenen Bildern (Referenzbilder), basierend auf dem hochgeladenen Bild oder Video. Außerdem werden Webseiten, auf denen diese Bilder veröffentlicht wurden, nach Informationen zum Kontext des Bildes durchsucht. Per Klick auf ein Referenzbild sehen Sie, welche Quellen welche Informationen (Datum, Ort, etc.) beinhalten, was Widersprüche unmittelbar sichtbar macht.
Wie aktuell sind die Suchergebnisse?
Unser Suchindex wird regelmäßig aktualisiert. Große Websites werden in der Regel mehrmals täglich erfasst. Die im Dashboard angezeigten Ergebnisse spiegeln den Stand zum Zeitpunkt der Analyse wider. Für neu hinzugekommene Inhalte können Sie jederzeit eine neue Suche starten.
Kann die Zeitachse (Timeline) falsche Ergebnisse liefern?
Ja, gelegentlich können Zeitstempel irreführend sein. Dies passiert oft bei Archivseiten von Medienhäusern, wenn der Zeitstempel das Datum der Archivseite anzeigt und nicht das ursprüngliche Veröffentlichungsdatum des Artikels, in dem das Bild erschien.
Was passiert, wenn kein Referenzbild oder Original im Web gefunden wird?
Auch wenn kein exaktes Duplikat im Web gefunden wird, zeigt das Dashboard visuell ähnliche Bilder an und liefert so wertvolle Hinweise. Unabhängig davon wird der Authentizitäts-Score für Ihr Bild immer berechnet und gibt Ihnen eine fundierte Einschätzung zur möglichen Manipulation.
Was ist die ereignisbasierte Bildsuche?
Die ereignisbasierte Bildsuche ergänzt die klassische Rückwärtssuche um eine erweiterte Perspektive. Statt nur identische Kopien zu finden, hilft sie dabei, den zeitlichen und inhaltlichen Kontext eines Ereignisses zu bestimmen. Dabei werden auch unterschiedliche Aufnahmen desselben Geschehens aus verschiedenen Blickwinkeln identifiziert. So entsteht ein umfassenderes und besser einordbares Gesamtbild.