„Check first. Vote smart.“ Allianz
Für eine informierte Gesellschaft und resiliente Demokratien.
Gemeinsam setzen wir KI gegen Desinformation ein und stärken demokratische Prozesse.
Die Initiative vereint Akteur:innen aus Zivilgesellschaft, Wirtschaft und Politik, um demokratische Entscheidungsprozesse zu stärken.
Mit Unterstützung von:
Ausgangssituation in Deutschland.
Die Folge: Unsicherheit, Vertrauensverlust und eine reales Einfallstor für Beeinflussung und Manipulation.
Gretchen AI im Live-Einsatz
Mit der Kampagne Check First. Vote Smart. brachte unsere Initiative mit Gretchen AI erstmals eine Lösung direkt in den digitalen Informationsfluss. Eine Instagram-basierte KI-Erkennung ermöglichte die Prüfung von Inhalten in Echtzeit – genau dort, wo Desinformation entsteht.
Die Technologie kombiniert State-of-the-Art KI-Detektion mit tiefgehender Kontextanalyse und erkennt so nicht nur technische Manipulationen, sondern auch irreführende Narrative.
Ein skalierbarer, vertrauenswürdiger Ansatz, der über 80 Arten von Deepfakes erkennt und zeigt, dass effektiver Schutz vor Desinformation bereits heute möglich ist.
Zahlen und Fakten aus Rheinland-Pfalz -
was für ein Erfolg!
Die Kampagne belegt eindrucksvoll die hohe Nachfrage nach verlässlicher Medienverifikation. Innerhalb von nur 10 Tagen wurden rund 20.000 Aufrufe erzielt – ein klarer Beleg für das hohe öffentliche Interesse. Besonders dynamisch war die Nutzung kurz vor dem Wahltermin: An einem Tag analysierte das System über 1.100 Bilder und gewann gleichzeitig mehr als 500 neue, aktiv suchende Follower. Die zentrale Erkenntnis: Der Bedarf an vertrauenswürdiger Medienverifikation in Echtzeit ist nicht theoretisch – er ist akut.
Gleichzeitig wurde ein messbarer Beitrag zur demokratischen Resilienz geleistet: Bürger:innen konnten Inhalte besser einordnen, Medienkompetenz wurde vermittelt und gestärkt. Interaktive Formate wie das Gretchen AI Instagram KI-Quiz schärften zusätzlich den bewussten Umgang mit KI – mit einem klaren Prinzip: KI unterstützt Entscheidungen, ersetzt aber nicht das kritische Denken. Auch modernste KI liefert Wahrscheinlichkeiten, keine absoluten Wahrheiten.
20.000+
Aufrufe (innerhalb von 10 Tagen)
5.000+
Bilder analysiert
8.000+
Quiz-Interaktionen
92% der Nutzer
halten KI-gestützte Einschätzungen für (sehr) nützlich
88% der Nutzer
halten KI-gestützte Einschätzungen für (sehr) nützlich
Signifikanter Anstieg der Reflexion-Fähigkeit nach dem Quiz
Vor unserem KI-Quiz waren 42 % der Teilnehmenden überzeugt, KI-generierte Bilder sicher erkennen zu können. Nach der Teilnahme sank dieser Wert auf 25 %.
Stattdessen ordneten sich deutlich mehr Personen differenzierter ein, und das zeigt: Unser Ansatz wirkt! Das Quiz schärft das Bewusstsein für KI-generierte oder manipulierte Inhalte und fördert einen reflektierten, kritischen Umgang mit digitalen Medien – direkt in den sozialen Netzwerken.
Glauben Sie, Sie können KI-generierte Inhalte erkennen?
Stimmen
❞
Dieses Projekt setzt einen wichtigen Maßstab für den Umgang mit KI-bedingter Desinformation. Es macht sichtbar, wie demokratische Institutionen und innovative Technologiepartner gemeinsam wirksame Schutzmechanismen schaffen können. Es ist zudem ein überzeugendes Beispiel dafür, wie aus Spitzenforschung ein Werkzeug mit unmittelbarem gesellschaftlichem Nutzen wird. Das ist Innovation mit echter Wirkung.
Prof. Dr. Prof. h.c. Andreas Dengel,
Geschäftsführender Direktor DFKI Kaiserslautern & Leiter des Forschungsbereichs Smarte Daten & Wissensdienste am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI)
❞
Die Kampagne hat gezeigt, wie moderne KI demokratische Resilienz stärken kann: nicht indem sie menschliches Urteilen ersetzt, sondern indem sie Bürgerinnen und Bürger dabei unterstützt, Inhalte fundierter einzuordnen. Besonders bemerkenswert ist die Nähe zur Lebensrealität der Menschen. Die Verifikation fand dort statt, wo Informationen heute konsumiert und weiterverbreitet werden – direkt auf Social Media.
Prof. Dr.-Ing. Sebastian Möller
Leiter des Forschungsbereichs Speech and Language Technology am Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI)
❞
Aus Sicht der Landeszentrale für politische Bildung Rheinland-Pfalz zeigt Check First. Vote Smart. auf überzeugende Weise, wie Medienbildung und technologische Innovation zusammenwirken können. Die Kampagne hat nicht nur für die Risiken von Deepfakes sensibilisiert, sondern zugleich die Medienkompetenz und Resilienz der Teilnehmenden gestärkt. Waren viele von ihnen vor dem Test der Meinung, KIgenerierte Bilder zu erkennen, sank dieser Wert im Nachgang und sie hinterfragten ihre eigene Selbsteinschätzung.
Jessica Marron.
Referentin Digitale Öffentlichkeitsarbeit und Digitalisierung der Landeszentrale für politische Bildung Rheinland-Pfalz
❞
Der Erfolg zeigt deutlich, wie groß der Bedarf an verlässlicher Deepfake- und Kontextprüfung bereits heute ist. Für Behörden und demokratiestärkende Organisationen setzen wir ein klares und starkes Signal: Vertrauenswürdige Medienverifikation in Echtzeit ist heute möglich – skalierbar, verständlich und bürgernah.
Dr.-Ing. Tim Polzehl
CEO Gretchen AI
❞
Das Projekt in Rheinland-Pfalz zeigt klar: Deepfake Detection aus dem Hause Gretchen AI ist einsatzbereit – nicht als Zukunftstechnologie, sondern im Hier und Jetzt.
Grundlage unserer innovativen Leistungsfähigkeit sind langjährige Erfahrung in der Deepfake-Erkennung, umfassende Expertise im praktischen Faktencheck und angewandte Forschung in Zusammenarbeit mit renommierten Partnern wie Deutsche Welle, rbb und dpa.
Die technologische Grundlage von Gretchen AI stammt aus dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), Deutschlands größtem KI-Forschungszentrum. So verbindet unser Team wissenschaftliche Exzellenz auf internationalem Spitzenniveau mit Lösungen, die in der Praxis einen echten Unterschied machen.
WichtigVor den Landtagswahlen 2026
Desinformationen verbreiten sich schnell; 5-mal schneller, als deren umfangreiche Aufklärung. Nehmen Sie sich Zeit, Inhalte zu überprüfen, bevor Sie sie teilen oder sich blind darauf verlassen.
Warum machen wir das?
🫵🏾 Wie gut erkennst du Deepfakes?
Miss dich mit unserer KI und trainiere deinen Blick für echte Inhalte.
Sprechen wir über Ihren Anwendungsfall.
Gretchen analysiert Kontext, Quellen und Signalstrukturen,
um manipulierte Inhalte zuverlässig zu identifizieren.
Beschreiben Sie uns Ihr Szenario – wir melden uns mit einer fundierten Einschätzung.
Oder schreiben Sie uns direkt: hello@gretchen-ai.de
