Handy auf dunklem Stein mit dem Gretchen-AI-Logo auf dem Bildschirm, daneben eine Lupe und ein Foto einer gläsernen Wahlurne: oben steckt ein Stimmzettel, innen fällt er geschreddert herunter
Social Media & Plattformen

Prüfen direkt in den Apps, die Menschen ohnehin nutzen.

Die Prüfschicht für soziale Netzwerke und Messenger: Ihre Plattform behält Oberfläche und Nutzer, Gretchen prüft.

Prüfung ausprobierenFür Plattformen →
Für Plattformen

Ihre App. Unsere Prüfung.

Drei Handys mit drei verschiedenen Apps zeigen dasselbe Bild mit einem Hinweis, dass es wahrscheinlich KI-erzeugt ist, jeweils im Design der App
1Anbinden

Per REST-API in Teilen, Melden oder Moderation.

2Prüfen

Bild, Video, Stimme und Behauptungen, automatisch.

3Reagieren

Das Ergebnis erscheint im eigenen Design, mit Bericht und Quellen.

Mehr erfahren: EU AI Act, DFKI, Abgrenzung
EU AI Act · Artikel 50

Gretchen unterstützt Plattformen bei der Kennzeichnung KI-erzeugter Inhalte nach Artikel 50 des EU AI Act, mit einem Bericht zu jeder Entscheidung.

Made in Berlin

Eine Ausgründung des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI).

Nicht dasselbe wie Content-Moderation

Hier fragen Menschen Gretchen nach etwas, das sie gesehen haben. Jeden Upload vor der Veröffentlichung zu prüfen, ist Content-Moderation.

Gretchen liefert die Prüfung. Die Plattform liefert das Erlebnis.

So sieht es im Chat aus

Drei Prüfungen, direkt im Chat

Beitrag weiterleiten, Antwort im selben Chat.

  1. GretchenFaktencheck
    Geteiltes Kurzvideo mit der Behauptung, ein Selfie in der Wahlkabine sei erlaubt1:06

    Stimmt das?

    Ich habe eine Aussage im Video geprüft. Offizielle Dokumente sprechen dagegen.

    Ergebnis: Offizielle Dokumente, 2 Quellen gefunden, Einstufung falschGanze Analyse →
    Widerspruch erkanntVideo → Aussagen → offizielle Quellen widersprechen
  2. GretchenFaktencheck
    Foto des Eiffelturms in einer Berliner Straße

    Ist das Bild echt?

    Im Bild sind deutliche KI-Spuren. Die Heatmap zeigt, wo sie liegen.

    Ergebnis: Heatmap markiert die auffälligen Bildbereiche rotGanze Analyse →
    KI-Spuren gefundenBild → KI-Spuren → Heatmap
  3. GretchenFaktencheck
    Geteiltes Kurzvideo mit der Behauptung, die Wahllokale seien am Sonntag von 8 bis 18 Uhr geöffnet1:06

    Kannst du das prüfen?

    Ich habe zwei Aussagen gefunden und Quellen dazu recherchiert.

    Ergebnis: Internet, 2 Quellen gefunden, berlin.de und rbb24.deGanze Analyse →
    RechercheVideo → Aussagen → Quellen

Beispielfälle zur Veranschaulichung. Die Ergebnis-Ausschnitte stammen aus der Ergebnisseite, die Gretchen bei den Berliner Wahlen 2026 eingesetzt hat.

Das Problem

Gemacht, um echt zu wirken

Porzellanmaske mit goldenen Kintsugi-Rissen auf dunklem Samt
Gesichter, die es nie gab

Auf dem Handy überzeugend, nach der Kompression erst recht.

Handy auf dunklem Stein mit einer Sprachnachricht von einem unbekannten Absender im Messenger
Stimmen, die nie gesprochen haben

Wenige Sekunden Ton reichen für einen Klon.

Fünf Handys in einer Reihe zeigen denselben gefälschten Beitrag mit steigenden Zahlen, erst das letzte zeigt einen Faktencheck
Schneller als jede Korrektur

Eine Fälschung verbreitet sich in Stunden.

Wofür unsere Detektoren gebaut sind

Unsere Detektoren sind für Material gebaut, wie es geteilt wird: komprimiert, beschnitten, weitergeleitet.

Handy auf dunklem Stein mit einer Gretchen-Antwort, darin die verlinkten Quellen berlin.de und rbb24.de
Quellen

Jede Antwort zeigt ihre Quellen

Echt oder gefälscht reicht nicht. Der Kontext entscheidet.

Faktenchecks, offizielle Stellen und frühere Kopien sind verlinkt.

Mehr erfahren

Menschen können die Begründung selbst nachvollziehen, statt einem Urteil vertrauen zu müssen.

Im Einsatz

Bewährt bei echten Wahlen

Handy mit der Ergebnisseite der Gretchenfrage zur Berliner Wahl 2026 auf einem Fensterbrett, dahinter Berlin bei Nacht
Berliner Wahlen 2026
88.000
Einsendungen beim Bürger-Check

„Die Gretchenfrage“ für das Land Berlin, per Instagram und WhatsApp.

Handy mit einem Chat: Erst tippt man selbst „echt oder KI?“, dann kommt Gretchens Einschätzung
Rheinland-Pfalz · 2026
Erster
Bürger-Check im Chat

Erst die eigene Einschätzung, dann das Ergebnis, per Instagram-Nachricht.

Sie betreiben eine Plattform oder einen Messenger?

Wir zeigen live, wie Gretchen mit Ihrem Material arbeitet.

Demo buchen