31.07.2026 |
Erfahrungen mit Künstlicher Intelligenz im Archiv - Teil 3
Die rasante Verbreitung generativer KI-Systeme, zu denen unter anderem Large Language Models wie ChatGPT, Gemini und Claude sowie Modelle zur Erzeugung von Bildern, Audioaufnahmen und Videos gehören, stellt das Archivwesen vor neue Herausforderungen. Dies gilt insbesondere für die digitale Überlieferung, bei der die Herkunft, Authentizität und Integrität von Dokumenten und Medien eine enorme Rolle spielen. Eine zentrale Kompetenz der Zukunft wird deshalb darin bestehen, authentische Inhalte von vollständig oder teilweise KI-generiertem bzw. manipuliertem Material zu unterscheiden.
Digitale Fälschungen sind dabei kein gänzlichst neues Phänomen, doch durch die einfache Verfügbarkeit leistungsfähiger KI gestützter Werkzeuge lassen sich heute schnell, aufwandslos und ohne besondere technische Vorkenntnisse extren gute Ergebnisse erzielen. Dadurch nimmt nicht nur die Menge teils- oder vollständig künstlich erzeugter Medien zu, sondern ihre Erkennung wird auch zunehmend schwieriger. Ein bekanntes Beispiel ist das im Jahr 2023 viral verbreitete KI-generierte Bild von Papst Franziskus in einem weißen Daunenmantel, der an die Modemarke Balenciaga erinnert. Auch im Umfeld der US-Präsidentschaftswahl 2024 kursierten zudem KI erzeugte Darstellungen, die fälschlicherweise den Eindruck erweckten, die Sängerin Taylor Swift unterstütze Donald Trump. Solche Fälle zeigen deutlich, wie KI-generierte Inhalte öffentliche Wahrnehmungen beeinflussen. Die Grenzen zwischen einfacher Unterhaltung, Illustration oder Wissensverarbeitung hin zu Desinformation und Fälschung verschwimmen dabei schnell. Hinzu kommt, dass gerade im Bereich Social Media Inhalte mit einer enormen Geschwindigkeit ausgespielt werden. Dadurch fallen Fehler und Ungereimtheiten in Bildern bei dem für die Domäne typischen schnellen Konsumverhalten kaum auf. Medienkompetenz und digitale Resilienz sind dabei bei der Beurteilung digitaler Quellen mittlerweile unerlässlich. Archive spielen dabei eine besondere, systemisch bedeutsame Rolle: Gerade für demokratisch organisierten Gesellschaften und Prozessen stellen sie einen wichtigen Ankerpunkt für Transparenz und die Verlässlichkeit von Erinnerung sowie getroffener Entscheidungsbegründungen dar.
Doch wie lassen sich echte, authentische Bilder von generierten Inhalten unterscheiden? Eine 100-prozentig zuverlässige Methode gibt es nicht. Man kann jedoch Indizien sammeln und kombinieren. Im Folgenden werden einige Indikatoren vorgestellt.
1. Gibt es einen KI-Hinweis?
Ab dem 2. August 2026 gelten in der EU neue Transparenzregeln für KI-Inhalte Artikel 50 der europäischen KI-Verordnung (KI-VO) https://ai-act-law.eu/de/artikel/50/. Ab diesem Zeitpunkt müssen zum Beispiel durch KI erzeugter Content wie Bilder, Audio, Video oder Text eindeutig und sichtbar gekennzeichnet werden und als maschinenlesbar als KI-generiert oder KI-manipuliert erkennbar sein. Falls Sie sich also unsicher sind, schauen Sie im ersten Schritt also nach, ob es einen solchen Hinweis gibt. Dieser ist zwar rechtlich bindend, doch müssen früher veröffentlichte KI-Inhalte nicht in dieser Weise gekennzeichnet sein. Es kann auch der Fall sein, dass Bereitsteller von Inhalten diese Kennzeichnungspflicht bewusst ignoriert.
2. Fragen Sie nach Plausibilität
Wenn Sie sich nicht sicher sind, ob die dargestellten Inhalte authentisch sind, nutzen Sie zunächst Ihre Intuition und Urteilskraft: Ist das, was Sie sehen, im jeweiligen Kontext auch plausibel? Lässt es sich mit Naturgesetzen sowie mit grundlegenden Prinzipien der Logik und Vernunft vereinbaren? Sind die Bilddetails historisch plausibel, oder lässt sich das Bild überhaupt in Bezug zur Lebensweltwirklichkeit beurteilen? Passen die Darstellungen zum gesicherten Wissen?
Konkret könnten Sie beispielsweise fragen: Wie wahrscheinlich ist es, dass der Papst einen Balenciaga-Mantel trägt? Ist es realistisch, dass ein Kirchenbuch aus dem 16. Jahrhundert in fehlerfreiem modernem Deutsch verfasst ist? Erscheint es möglich, dass eine Katze im Wald Pancakes kocht? Gab es in der Französischen Revolution im Jahr 1789 bereits die Möglichkeit, Fotografien im heutigen Sinne anzufertigen? Eine Plausibilitätsprüfung kann einen Verdacht begründen, liefert aber noch keinen Beweis dafür, ob Bilder KI-generiert sind.
3. Prüfen Sie die Herkunft, den Entstehungskontext und die Verlässlichkeit der Quelle
Bei öffentlich zugänglichem Bildmaterial sollten Sie zunächst versuchen, dessen Herkunft zu bestimmen. Wer hat das fragliche Bild wann erstellt und veröffentlicht? In welchem Zusammenhang ist das Bild entstanden? Gibt es eine Bildunterschrift, einen genannten Autor oder eine genannte Autorin, eine Bildagentur oder Verantwortliche?
Handelt es sich um authentische Aufnahmen, finden sich häufig auch voneinander unabhängige Quellen. Versuchen Sie, diese ggf. ausfindig zu machen. Qualitätsmedien, Nachrichtenagenturen und sonstige Einrichtungen mit einer hohen Glaubwürdigkeit verfügen in der Regel über redaktionelle Prüfmechanismen und teilen Inhalte nicht ungefiltert. Natürlich können auch hier Fehler passieren.
Wenn sich Bildmaterial nur auf einigen eher unbekannten Seiten oder Social-Media-Kanälen findet, könnte dies ein Hinweis auf eine geringere Verlässlichkeit der Quellen sein. In einem solchen Fall wäre davon auszugehen, dass auch andere regionale und überregionale Zeitungen unabhängig voneinander berichten würden, wenn es, wie auf dem unteren Bild zu sehen, zu einer Landung eines Raumschiffs vor dem Erzbischöflichen Archiv gekommen wäre. Zusätzlich wären vermutlich Stellungnahmen der betroffenen Institution zu erwarten.
Um den Ursprung, frühere Veröffentlichungen oder andere Verwendungen eines Bildes zu ermitteln, kann man eine Rückwärtssuche, wie sie bei Google Bilder oder Google Lens möglich ist, durchführen. Dies kann dabei helfen, den Ursprung von Inhalten zu bestimmen, den Originalzusammenhang zu rekonstruieren oder zu erfahren, wo bestimmte Bilder noch verwendet wurden.
4. Suchen Sie nach digitalen Wasserzeichen
Wenn eine Datei als „born digital” (originär digital) und unverändert vorliegt, kann geprüft werden, ob ein digitales Wasserzeichen vorhanden ist. Einige Anbieter integrieren unsichtbare Hinweise direkt in die Bilddaten. Ein Beispiel ist das von Google DeepMind entwickelte digitale Wasserzeichen SynthID, welches in diversen Google- oder OpenAI-Systemen Anwendung findet. Mit „Stable Signature” hat Meta einen ähnlichen Ansatz vorgestellt.
Diese unsichtbaren Wasserzeichen werden direkt im Pixelwert eines Bildes angelegt und können mit bloßem Auge nicht erkannt werden. Sie sind auch gegenüber klassischen Änderungen wie Umspeichern, Komprimieren oder Zuschneiden relativ widerstandsfähig. Zum Auslesen benötigt man einen speziellen Detektor. Oft kann man dafür auch die Funktionalität großer LLMs nutzen und das Bild beispielsweise in Gemini oder ChatGPT hochladen und fragen, ob derartige Wasserzeichen vorliegen. Ein fehlendes Wasserzeichen bedeutet jedoch nicht automatisch, dass ein Bild authentisch ist.
5. Metadaten prüfen (z. B. EXIF, IPTC, XMP oder C2PA)
In den Metadaten eines Bildes können sich weitere Hinweise finden. In der Regel werden darin beispielsweise die Autorenschaft, der Kameratyp, die Belichtungszeit oder Geoinformationsdaten abgelegt. Je nach verwendeter KI zur Bildgenerierung werden aber auch Daten als EXIF, IPTC oder XMP im binären Datenstrom des Bildes (z. B. im JPEG Universal Metadata Box Format – JUMBF) abgelegt. Diese können Hinweise auf das verwendete Generierungstool geben.
Einige Bildgeneratoren ergänzen diese sogar in sogenannte C2PA-Content-Credentials. C2PA steht dabei für „Coalition for Content Provenance and Authenticity“. Der Standard soll die Herkunft und Bearbeitung von digitalen Inhalten dokumentieren, sicherstellen und nachvollziehbar machen. Einige Tools, wie OpenAI oder Adobe Firefly, verwenden zum Teil kryptografisch signierte Manifestdateien. Es ist jedoch wichtig zu erwähnen, dass diese Metadaten auch gelöscht werden können, sodass sie nur einen Hinweis geben können und nicht sicher vor Manipulation sind. Zudem legen viele KI-Bild-Generatoren keine Metadaten an, sodass dies nur ein Hinweis sein kann.
Auswertung von Metadaten eines KI-generierten Bildes.
Mit einigen Tools lassen sich Metadaten und kryptografische Signaturen wie C2PA schnell prüfen. Bedenken Sie aber, dass das Fehlen von Treffern mit diesen Tools nicht bedeutet, dass die Bilder echt sind.
Nicht jedes auffällige Bild ist zwangsläufig KI-generiert. So kann durch den Einsatz von digitalen Filtern, Retusche, Fotobearbeitung oder ähnlichen Methoden auch ein Bild vorliegen, das digital stark verändert wurde. Entscheidend ist dabei natürlich die Art des Eingriffs. Eine Farbkorrektur, ein Zuschnitt oder eine Drehung ist in der Regel anders zu bewerten als das Entfernen oder Hinzufügen von Personen, Objekten oder die Änderung des kompletten Bildinhalts.
Es gibt jedoch einige visuelle Auffälligkeiten, die auf eine Manipulation hinweisen können. Aufgrund der raschen Weiterentwicklung der Technologien werden viele der früher typischen Fehler jedoch immer seltener und Listen mit Fehlern, die auf eine KI-Generierung hinweisen, veralten schnell. Probleme bei der Darstellung von Händen und Schrift sind bei Bildgenerierungsmodellen mittlerweile nur noch geringfügig.
Mögliche Auffälligkeiten bei KI-Bildern im Juli 2026 können unter anderem anatomische Fehler, unleserliche oder semantisch bedeutungslose Schrift, verschmolzene Objekte, Kontinuitätsfehler innerhalb einer Bilderserie, inkonsistente Lichtquellen und Schattenwürfe oder Darstellungen von Spiegelungen und Bildern in Bildern sein.
Hier daher einige Beispiele aus dem „Generativschöflichen Archiv Freiburg“.
Dieses Bild macht deutlich, dass KI-Darstellungen der Wirklichkeit oft nicht entsprechen. Weder der Ort noch die städtebauliche Verortung des Gebäudes stimmen mit der Realität überein, und auch das Team des angeblichen Erzbischöflichen Archivs hat nichts mit dem echten Team gemein. Das hier generierte Team ist nebenbei bemerkt jedoch profaner gekleidet als im generierten Bild von vor zwei Jahren. Auffällig ist, dass sich Gesichtszüge, Lächeln und Brillen auf diesem Bild bei näher Betrachtung stark ähneln. Zudem lassen sich mehrere Kontinuitätsfehler feststellen. So gibt es je nach Bild unterschiedliche Stützpfeiler am Eingang. Auch der Handlauf beim Treppenaufgang erscheint auf den beiden Bildern unterschiedlich. Ebenso ist der Schriftzug am Gebäude unterschiedlich abgesetzt.
Auch im Foto der sehr gut besuchten, aber leider nicht echten Veranstaltung zu KI-Fakes gibt es einige Auffälligkeiten. So sitzen im Saal zum einen andere Menschen als im Spiegel zu sehen sind und zum anderen wirken die Hände der Referentin bei näherem Hinsehen anatomisch nicht überzeugend.
Auch der KI-generierte Lesesaal wirft Fragen auf. So wirken einige der Lampenkonstruktionen recht experimentell. Der Aufsteller mit den Lesesaalregeln scheint zudem keinen Standfuß zu benötigen. Besonders interessant ist, dass die Nutzerin ganz rechts im Bild offenbar über drei Arme verfügt, die ihr möglicherweise ein schnelleres Aktenstudium erlauben.
Nicht zuletzt ist ein Blick in das Digitalisierungszentrum des KI-generierten Erzbischöflichen Archivs aufschlussreich. Neben einigen experimentellen Werkzeugen, die offensichtlich im Generierungsprozess vermischt wurden, finden sich auch Fehler in der Schrift. Die Buchstaben auf dem Karton wirken fremd und sind kaum entzifferbar. Auch die Tisch- und Stuhlkonstruktion im hinteren Teil des Bildes erscheint statisch zumindest fragwürdig. Einen solchen Raum gibt es im „echten“ Erzbischöflichen Archiv Freiburg tatsächlich nicht.
Zum Vergleich folgen einige echte Fotografien des Erzbischöflichen Archivs.
7. Nutzen von automatisierten Erkennungstools – aber mit Vorsicht
Mittlerweile gibt es eine Vielzahl von Tools, die ein unkompliziertes Testen auf KI-Inhalte versprechen. Einige davon sind kostenpflichtig. Diese können ebenfalls bei der Untersuchung und Identifizierung von KI-generierten Inhalten hilfreich sein. Die Ergebnisse sind jedoch eher Wahrscheinlichkeitsaussagen als eindeutige Beweise.
Die Leistungsfähigkeit dieser Systeme hängt zudem stark vom Trainingsstand ab. Gerade bei neueren und neuesten KI-Modellen kann deren Leistungsfähigkeit stark variieren. Auch falsch positive oder falsch negative Einschätzungen können ein Problem darstellen, da manche KI-Inhalte mittlerweile nur schwer oder gar nicht detektierbar sind. Es gibt nicht nur einen Indikator, um entscheiden zu können, ob Bilder echt sind oder „nur“ mit künstlicher Intelligenz erzeugt wurden. In diesem Zusammenhang sind etwa die folgenden Tools zu nennen: „AI or Not“, „Illuminarty“, „Hive Moderation“, „Is It AI?“, „Sightengine“, „Deepware“, „Sensity“ oder „Reality Defender“.
Beim Hochladen sollten zudem Datenschutz, ggf. Urheberrechtserwägungen und Nutzungsbedingungen beachtet werden.
Fazit
Das Thema „Künstliche Intelligenz” und die Frage, was mit KI-generierten Inhalten zu tun ist, wird immer wichtiger. Gerade Erinnerungs- und Gedächtnisorganisationen werden in Zukunft größere Anstrengungen unternehmen müssen, um von derartigen Datenmengen nicht überrollt zu werden. Aktuell gibt es keine eindeutige Identifizierungsmöglichkeit. Es ist notwendig, verschiedene Faktoren zu berücksichtigen, um eine plausibilisierbare Einschätzung zu erhalten. Mit der rasanten Weiterentwicklung der Technologie ist jedoch zu befürchten, dass zukünftige Inhalte nahezu ununterscheidbar sein werden. Dies wird die Plausibilität, Verlässlichkeit, den Wert und die Authentizität unseres digitalen Lebens und des digitalen Kulturguts nachhaltig infrage stellen. Vielleicht wird, wie heute bereits des Öfteren spekuliert wird, der „menschengemachte” Content eine Kennzeichnung als Wertprädikat erhalten, um sich von KI-generierten Inhalten abzuheben. Tipp- und Rechtschreibfehler wären dann, so möchte man feinsinnig hinzufügen, ein Prüfmechanismus des „menschlichen” Fingerprints für digitale Inhalte.
Tony Franzky
Weitere Artikel aus der Reihe "Die neuen künstlichen Kolleg:innen"
