Wir – Einrichtungen historisch-politischer Bildung – sehen das in letzter Zeit massive Auftauchen von erfundenen KI-generierten Inhalten (AI Slop) zum Nationalsozialismus auf Social Media-Plattformen mit großer Sorge. Diese Postings verfälschen die Geschichte durch Verharmlosung und Verkitschung und verändern die Sehgewohnheiten der Nutzer/-innen, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben. Auf Initiative von AI-Slop betroffener Gedenkstätten formuliert das Netzwerk Digital History und Memory einen offenen Brief an Social-Media-Plattformen. Die KZ-Gedenkstätte Dachau gehört zu den Erstunterzeichner/-innen.
Konsequentes Vorgehen gegen KI-generierte Holocaust-Verfälschungen auf Social-Media-Plattformen
In den Sozialen Netzwerken tauchen in den letzten Monaten immer mehr massenhaft mit Künstlicher Intelligenz (KI) erstellte Inhalte mit Bezug zum Nationalsozialismus auf, die keine historischen Ereignisse abbilden, sondern frei erfunden sind. Diese umgangssprachlich als AI-Slop bezeichneten Inhalte zeigen beispielsweise vermeintliche Situationen in nationalsozialistischen Lagern oder bei deren Befreiung. Diese zeichnen ein extrem verzerrtes und falsches Bild. Beispielsweise kursieren KI-generierte Bilder, die ein angebliches Wiedersehen zwischen Gefangenen und Befreiern zeigen, oder erfundene Szenen weinender Kinder hinter Stacheldraht. Mit Künstlicher Intelligenz werden hier Inhalte erstellt, die aus Versatzstücken historischer Fakten und emotionalisierter Fiktion bestehen.
Hinter diesen Inhalten stehen unterschiedliche Motive: Zum einen nutzen sogenannte Content-Farmen die emotionale Wucht des Holocaust, um mit minimalem Aufwand maximale Reichweite zu erzielen. Ein Geschäftsmodell, das auf Klicks und Werbeeinnahmen basiert. Zum anderen werden diese Inhalte gezielt eingesetzt, um historische Fakten zu verwässern, Opfer- und Täterrollen zu verschieben oder revisionistische Narrative zu verbreiten. Die Algorithmen der Plattformen begünstigen dabei emotional aufgeladene Inhalte, unabhängig von deren Wahrheitsgehalt.
Diese Entwicklung beobachten wir als Einrichtungen historisch-politischer Bildung mit großer Sorge. KI-generierte Inhalte verfälschen die Geschichte durch Verharmlosung und Verkitschung. Sie verändern die Sehgewohnheiten der Nutzer/-innen, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben.
Wir setzen uns für eine digitale Öffentlichkeit ein, in der Überlebende der nationalsozialistischen Verfolgung und ihre Nachkommen davor geschützt sind, dass ihre Lebensgeschichten von Unbekannten für Profit instrumentalisiert werden. Historische Quellen und wissenschaftliche Forschung dürfen nicht von massenhaft KI-generierten Inhalten verdrängt werden. Wir wollen, dass echte Stimmen und vielfältige Perspektiven gehört werden.
Wir sind nicht gegen digitale Formen des Gedenkens und der Vermittlung. Auch künstliche Intelligenz kann in der historisch-politischen Bildungsarbeit durchaus sinnvoll eingesetzt werden. Die gesamtgesellschaftliche Herausforderung besteht jedoch darin, ethische und historisch verantwortungsvolle Standards für diese Technologie zu entwickeln. Plattformbetreiber tragen dabei eine besondere Verantwortung: Sie müssen sicherstellen, dass das Leid der Opfer nicht durch emotionalisierte Fiktionen trivialisiert wird.
Wir fordern Plattformbetreiber auf:
- Proaktiv gegen geschichtsverfälschende KI-Inhalte vorzugehen. Nicht erst nach Nutzer*innenmeldungen.
- Geschichtsverfälschende und irreführende Inhalte als Fehlinformation über die internen Meldesysteme meldbar zu machen.
- Konten, die solche Inhalte verbreiten, von allen Monetarisierungsprogrammen auszuschließen.
- KI-generierte Inhalte ausnahmslos zu kennzeichnen und bei Verstößen gegen die Kennzeichnungspflicht zu entfernen.
- Mit Gedenkstätten, Archiven und Expert*innen zusammenzuarbeiten, um Erkennungssysteme für Holocaust-bezogene Fehlinformationen zu verbessern.
Erstunterzeichner/-innen (alphabetisch):
Arbeitsgemeinschaft KZ-Gedenkstätten:
- Gedenkstätte Bergen-Belsen
- Gedenkstätte Buchenwald
- KZ-Gedenkstätte Dachau
- KZ-Gedenkstätte Flossenbürg
- KZ-Gedenkstätte Mittelbau-Dora
- KZ-Gedenkstätte Neuengamme
- Mahn- und Gedenkstätte Ravensbrück
- Gedenkstätte und Museum Sachsenhausen
Arolsen Archives
Dokumentations- und Informationszentrum (DIZ) Emslandlager
Dokumentationszentrum NS-Zwangsarbeit
Gedenk- und Bildungsstätte Haus der Wannsee-Konferenz
Gedenkstätte Hadamar
Gedenkstätte in der JVA Wolfenbüttel
Gedenkstätte Lager Sandbostel
Gedenkstätten Gestapokeller und Augustaschacht e.V.
Gedenkstättenreferat der Stiftung Topographie des Terrors
Jüdisches Museum Berlin
KZ-Gedenk- und Begegnungsstätte Ladelund
Sprecher/-innenrat des Netzwerks der Gedenkstätten und Erinnerungsinitiativen an Orten ehemaliger NS-Kriegsgefangenenlager
Netzwerk Digital History und Memory
Ständige Konferenz der NS-Gedenkorte im Berliner Raum:
- Denkmal für die ermordeten Juden Europas
- Gedenkstätte und Museum Sachsenhausen
- Gedenk- und Bildungsstätte Haus der Wannseekonferenz
- Gedenkstätte Deutscher Widerstand
- Topographie des Terrors
Stiftung Bayerische Gedenkstätten
Stiftung Hamburger Gedenkstätten und Lernorte zur Erinnerung an die Opfer der NS-Verbrechen
Stiftung Gedenkstätten Buchenwald und Mittelbau-Dora
Stiftung Niedersächsische Gedenkstätten
Verband der Gedenkstätten in Deutschland e.V.