Überzeugende Texte, Bilder, Stimmen oder Videos zu erstellen, ist heute nicht mehr besonders schwierig. Deutlich schwieriger wird es hingegen festzustellen, woher ein Inhalt stammt, wer dahintersteht und was mit ihm geschehen ist, bevor er uns erreicht.
Dieses Problem ist nicht erst mit generativer KI entstanden. Das Internet hat nie automatisch garantiert, dass veröffentlichte Inhalte authentisch sind. Bilder wurden bearbeitet, Texte kopiert und Quellen falsch dargestellt – lange vor ChatGPT, Midjourney oder generativ erzeugten Videos. Neu ist vor allem der Maßstab. Inhalte, für deren Erstellung früher Stunden oder Tage erforderlich waren, können heute innerhalb weniger Minuten produziert und anschließend mehrfach verändert werden, ohne dass diese Historie für den Endnutzer sichtbar ist.
Genau deshalb rückt Digital Provenance zunehmend in den Mittelpunkt – also die Möglichkeit, die Herkunft eines digitalen Objekts, seine Veränderungen sowie die an seiner Entstehung beteiligten Systeme oder Personen nachzuvollziehen. Der Begriff geht über die bloße Frage hinaus, woher eine Datei stammt. Er umfasst ebenso, wie sie erstellt und bearbeitet wurde, welche Systeme sie durchlaufen hat und ob sich diese Historie überprüfen lässt.
Wenn „es sieht echt aus“ nicht mehr ausreicht
Noch vor wenigen Jahren konnten Menschen zumindest grob erkennen, wenn ein Bild schlecht manipuliert, eine Stimme synthetisch oder ein Text automatisch generiert war. Auf dieses Gespür ist zunehmend weniger Verlass – nicht weil Menschen plötzlich leichter zu täuschen wären, sondern weil die Qualität synthetischer Inhalte steigt, während die Kosten ihrer Erstellung sinken.
Die Frage „Sieht es echt aus?“ verliert deshalb zunehmend an praktischer Aussagekraft. Sinnvoller ist die Frage: „Was wissen wir über seine Herkunft?“ Bei einem Bild kann dies Informationen über das verwendete Gerät oder die eingesetzte Anwendung, spätere Bearbeitungen und den Publisher umfassen. Bei einer Unternehmensanalyse ist die Frage komplexer: Welche Daten wurden verwendet, aus welchem System stammen sie, wie aktuell waren sie, welches KI-Modell war beteiligt und wurde das Ergebnis von einem Menschen geprüft?
Genau hier beginnt sich Digital Provenance mit Data Provenance, Data Lineage und AI Governance zu überschneiden.
Die Herkunft zu kennen bedeutet nicht automatisch, die Wahrheit zu kennen
Diese Unterscheidung ist wichtig, weil bei Provenance leicht der falsche Eindruck entstehen kann, die Technologie werde das Problem falscher Inhalte lösen. Das wird sie nicht. Eine Fotografie kann eine vollständig nachvollziehbare Historie besitzen und dennoch aus dem Zusammenhang gerissen verwendet werden. Ein Dokument kann authentisch sein, während die darin gezogene Schlussfolgerung falsch ist. Ein Mensch kann falsche Informationen veröffentlichen, ohne dass KI in irgendeiner Form beteiligt war.
Provenance beweist daher nicht, dass eine Aussage wahr ist. Sie liefert etwas Konkreteres: mehr überprüfbare Informationen über die Historie eines digitalen Objekts. Das mag wie ein kleiner Unterschied wirken, ist aber wesentlich. Statt das Unmögliche zu versprechen – eine automatische Erkennung der Wahrheit – ermöglicht der Ansatz eine fundiertere Bewertung dessen, was vor uns liegt.
C2PA versucht, die Geschichte von Inhalten überprüfbar zu machen
Einer der am weitesten entwickelten praktischen Ansätze in diesem Bereich ist C2PA – Coalition for Content Provenance and Authenticity. Die Grundidee besteht darin, digitale Inhalte mit kryptografisch überprüfbaren Informationen über ihre Erstellung und spätere Veränderungen zu versehen. In Endnutzerprodukten begegnet uns dieses Konzept häufig unter der Bezeichnung Content Credentials.
Anstatt dass ein System oder ein Mensch „erraten“ muss, ob ein Bild generiert oder verändert wurde, können die verfügbaren Informationen über seine Herkunft geprüft werden. Das ist ein robusterer Ansatz als der permanente Wettlauf zwischen Generatoren und AI Detectors, denn bei einem Detector bleibt immer eine Fehlerwahrscheinlichkeit bestehen, während Provenance darauf abzielt, eine nachvollziehbare technische Historie bereitzustellen, sofern eine solche vorhanden ist.
Auch dieses Modell hat Grenzen. Metadaten können fehlen, nicht jede Plattform bewahrt sie auf und nicht jedes Gerät oder jede Anwendung ist Teil eines solchen Ökosystems. Das Fehlen von Provenance bedeutet ebenfalls nicht automatisch, dass ein Inhalt gefälscht ist. Content Credentials sollten deshalb als zusätzliche Informationsebene verstanden werden und nicht als Stempel für „Wahrheit“.
Für Unternehmen könnte der größere Risikofaktor nicht der Deepfake, sondern der eigene KI-Prozess sein
Deepfakes ziehen naturgemäß Aufmerksamkeit auf sich, weil sie sichtbar und leicht zu erklären sind. In Organisationen dürfte jedoch die schwierigere Frage sein, wie sich alltägliche AI-assisted Prozesse nachvollziehen lassen.
Stellen Sie sich einen Mitarbeiter vor, der KI zur Vorbereitung einer Analyse für einen Kunden einsetzt. Er kombiniert interne Excel-Daten, eine Präsentation aus dem vorherigen Quartal, öffentlich verfügbare Informationen und ein Ergebnis aus generativer KI. Einige Wochen später stellt sich die Frage, warum eine bestimmte Zahl in der Analyse auftaucht.
Dann beginnen ganz praktische Fragen:
- Aus welcher Datei stammt der Wert?
- Welche Version der Datei wurde verwendet?
- Zu welchem Zeitpunkt waren die Daten aktuell?
- Welches KI-Modell war beteiligt?
- Was wurde automatisch generiert und was vom Mitarbeiter selbst verfasst?
- Wer hat das Ergebnis geprüft?
- Welche Version wurde an den Kunden gesendet?
Wenn eine Organisation diese Fragen nicht beantworten kann, liegt das Problem nicht mehr nur bei der KI. Es betrifft das Management des Informationsprozesses. Genau hier wird Provenance zu einem Bestandteil von Information Governance, Data Governance, Qualitätsmanagement, Compliance und Records Management.
Das Label „AI-generated“ sagt zu wenig aus
Eine Schwäche der aktuellen Diskussion über KI-Inhalte besteht darin, dass sie häufig in zwei Kategorien eingeteilt werden: von einem Menschen erstellt oder von KI erzeugt. Reale Prozesse sind jedoch selten so eindeutig.
Ein Autor kann einen Artikel vollständig selbst verfassen und KI lediglich zur Rechtschreibprüfung einsetzen. Ein anderer kann eine eigene Analyse erstellen und das Modell nur zur Umstrukturierung verwenden. Ein Dritter kann den gesamten Beitrag automatisch generieren lassen und ihn anschließend lediglich veröffentlichen. In allen drei Fällen wurde KI „eingesetzt“, der zugrunde liegende Informationsprozess unterscheidet sich jedoch erheblich. Dasselbe gilt für Bilder, Programmcode, Präsentationen, Berichte und Audioinhalte.
Deshalb dürfte die binäre Kennzeichnung AI / non-AI nicht ausreichen. Sinnvoller ist es, feststellen zu können, welche konkrete Rolle KI bei der Erstellung oder Verarbeitung des Endergebnisses gespielt hat.
Die Regulierung bewegt sich bereits in Richtung maschinenlesbarer Provenance
Das Thema besitzt inzwischen auch eine regulatorische Dimension. Der europäische AI Act führt Transparenzpflichten für bestimmte Arten generierter und manipulierter Inhalte ein, einschließlich Anforderungen an ihre maschinelle Erkennbarkeit und Kennzeichnung in bestimmten Fällen.
Das weist auf eine wichtige Entwicklung hin: Provenance ist zunehmend nicht mehr nur ein Thema für die Medienbranche oder für Entwickler generativer Modelle. Sie wird Teil des breiteren Rahmens von AI Transparency, Accountability und Governance.
Für Organisationen bedeutet dies, dass die Frage „Haben wir KI eingesetzt?“ künftig möglicherweise nicht mehr ausreicht. Wichtiger wird sein, ob sie nachvollziehbar zeigen können, wie KI eingesetzt wurde, was sie erzeugt hat und wie das Ergebnis überprüft wurde.
Organisationen müssen entscheiden, welche Spuren sie aufbewahren sollten
Es gibt keinen vernünftigen Grund, jeden E-Mail-Vorschlag oder jede Änderung an einem einzelnen Satz in einen komplexen Audit Trail zu verwandeln. Das würde Prozesse unpraktikabel machen. Bei Inhalten und Entscheidungen mit höherer Bedeutung könnte bestimmte Provenance-Information jedoch zu einem normalen Bestandteil des Managements werden.
Abhängig vom jeweiligen Risiko kann dies Folgendes umfassen:
- Quelle und Version der verwendeten Daten;
- das eingesetzte KI-System;
- die wichtigsten automatisierten Transformationen;
- den Umfang der KI-Beteiligung;
- die durchgeführte menschliche Prüfung;
- die Person, die das Endergebnis freigegeben hat;
- die Version des veröffentlichten oder versendeten Dokuments;
- die Rechte zur Nutzung und Veröffentlichung.
Nicht alle diese Informationen müssen öffentlich sein. Für viele Geschäftsprozesse liegt ihr Wert vor allem in der internen Nachvollziehbarkeit. Ziel ist nicht, jede Bewegung des Cursors zu dokumentieren, sondern bei einem wichtigen Ergebnis dessen Herkunft mit ausreichender Zuverlässigkeit rekonstruieren zu können.
Vertrauen lässt sich nicht mit einem weiteren Badge lösen
Der Technologiemarkt neigt dazu, komplexe Probleme auf leicht erkennbare Kennzeichnungen zu reduzieren: Verified, Trusted, Secure, Authentic. Solche Bezeichnungen können nützlich sein, allerdings nur dann, wenn klar ist, was sie tatsächlich belegen.
Content Credentials können einen Teil der Historie eines Inhalts sichtbar machen. Das bedeutet nicht, dass jede darin enthaltene Aussage wahr ist. Ein AI Label kann darauf hinweisen, dass ein generatives System beteiligt war, sagt jedoch nichts darüber aus, ob der Inhalt ungenau oder qualitativ minderwertig ist. Umgekehrt beweist das Fehlen einer solchen Kennzeichnung allein keine Authentizität.
Wenn Digital Provenance einen tatsächlichen Wert besitzt, dann liegt dieser gerade darin, mehr Kontext für die Überprüfung bereitzustellen, ohne den Anspruch zu erheben, menschliches Urteilsvermögen zu ersetzen.
Je einfacher Inhalte erstellt werden können, desto wichtiger wird ihre Herkunft
Bis vor Kurzem konzentrierte sich die technologische Diskussion fast vollständig auf die Fähigkeiten generativer KI: wie gut sie Texte schreiben kann, welche Bilder sie erzeugen kann und ob sie Videos, Code oder Stimmen generieren kann. Diese Phase wird nicht verschwinden, doch zunehmend kommt eine praktischere Frage hinzu: Wenn wir das Endergebnis erhalten, wie können wir feststellen, woher es stammt?
Für Medien ist dies eine Frage der Content Authenticity. Für Unternehmen geht es um Nachvollziehbarkeit und Verantwortlichkeit. Für Data Governance geht es um Lineage. Für AI Governance geht es um die Kontrolle darüber, wie Modelle an Informationsprozessen beteiligt sind. Digital Provenance verbindet diese Bereiche, ohne einen davon automatisch zu lösen.
In einer Umgebung, in der digitale Inhalte immer einfacher erstellt werden können, wird die Fähigkeit, ihre Herkunft nachvollziehbar zu belegen, zunehmend zu einem Bestandteil des Wertes der Information selbst.
Kommentare (0)
Noch keine Kommentare.