Deepfake-Kennzeichnung ab 2. August: Was die neuen EU-Regeln verlangen
Im Internet taucht ein Video eines Politikers, eines Unternehmenschefs oder einer prominenten Persönlichkeit auf. Es sieht echt aus, klingt authentisch und verbreitet sich, noch bevor irgendjemand seinen Wahrheitsgehalt überprüfen kann. Nach den neuen Vorschriften des EU AI Act sollen solche Inhalte künftig häufiger mit einem sichtbaren Hinweis oder einer maschinenlesbaren Kennzeichnung versehen werden. Diese soll offenlegen, dass künstliche Intelligenz den Inhalt erzeugt oder verändert hat. Das berichten unsere Kollegen von Finance.si.
Das Versprechen klingt einfach: Nutzer sollen erkennen können, wann künstliche Intelligenz die dargestellte Wirklichkeit synthetisch verändert hat. Die praktische Herausforderung ist jedoch erheblich größer. Werden Nutzer die Hinweise überhaupt wahrnehmen? Und bleiben die Kennzeichnungen erhalten, sobald sich die Inhalte im Internet verbreiten?
Ab Sonntag, dem 2. August 2026, gelten in der Europäischen Union neue Transparenzpflichten. Nutzer müssen darüber informiert werden, wenn sie direkt mit bestimmten KI-Systemen interagieren oder mit Inhalten konfrontiert werden, die künstliche Intelligenz erzeugt oder bearbeitet hat. Dazu gehören insbesondere sogenannte Deepfakes. Artikel 50 des EU AI Act bildet dafür die rechtliche Grundlage.
Anbieter generativer KI-Systeme müssen dafür sorgen, dass sich synthetische Inhalte erkennen lassen. Nach Möglichkeit sollen sie dafür maschinenlesbare Kennzeichnungen verwenden. Betreiber, die Deepfakes veröffentlichen oder verbreiten, müssen offenlegen, dass der jeweilige Inhalt künstlich erzeugt oder manipuliert wurde. Die Vorschriften erfassen außerdem bestimmte KI-generierte Texte über Angelegenheiten von öffentlichem Interesse. Eine Ausnahme gilt, wenn ein Mensch den Inhalt überprüft hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Das Datum ist von großer Bedeutung. Die Diskussion über Deepfakes wandelt sich damit von einem regulatorischen Versprechen für die Zukunft zu einer konkreten Bewährungsprobe für Technologieplattformen, KI-Unternehmen, Medienhäuser und andere Anbieter digitaler Inhalte.
Die Europäische Kommission bestätigt, dass Artikel 50 ab dem 2. August 2026 anzuwenden ist. Zugleich verweist sie auf eine Übergangsfrist bis Dezember 2026 für die Pflicht zur maschinenlesbaren Kennzeichnung bei bestimmten generativen KI-Systemen, die bereits vor dem 2. August auf den Markt gebracht wurden. Für Deepfakes, die vor diesem Stichtag entstanden sind, ist keine rückwirkende Kennzeichnung vorgeschrieben. Die Kommission empfiehlt sie jedoch.
Brüssel geht bei der Deepfake-Kennzeichnung nicht von der naiven Vorstellung aus, dass ein Hinweis allein sämtliche KI-Manipulationen verhindern könnte. Die dahinterstehende Logik ist pragmatischer. Eine Kennzeichnung soll Nutzer darauf aufmerksam machen, dass ein Inhalt keine unmittelbare Aufzeichnung der Wirklichkeit darstellt. Gleichzeitig liefert sie Plattformen und Faktenprüfern ein zusätzliches Signal, das sie bei der Prüfung und Moderation von Inhalten berücksichtigen können.
Die EU will zudem erreichen, dass sich die größten Anbieter generativer künstlicher Intelligenz auf gemeinsame technische Standards verständigen. Das soll geschehen, bevor synthetische Stimmen, Bilder und Videos ein solches Ausmaß erreichen, dass ihre Herkunft kaum noch nachverfolgt werden kann. Ziel der Vorschriften ist deshalb nicht, synthetische Inhalte grundsätzlich zu verbieten. Vielmehr sollen ihre Herkunft nachvollziehbar und die verantwortlichen Akteure identifizierbar werden.
Metadaten und Wasserzeichen: Wo die Deepfake-Kennzeichnung scheitern kann
In der Praxis soll die Deepfake-Kennzeichnung auf mehreren technischen Ebenen beruhen. Die erste Ebene bilden Metadaten oder digitale Herkunftsnachweise. Sie begleiten eine Datei und geben Auskunft darüber, ob künstliche Intelligenz den betreffenden Inhalt erzeugt oder verändert hat.
Die zweite Ebene besteht aus Wasserzeichen. Dabei wird ein Hinweis auf den künstlichen Ursprung unmittelbar in ein Bild, ein Video, eine Tonaufnahme oder einen Text eingebettet. Die dritte Ebene bilden Erkennungsprogramme. Sie sollen synthetische Inhalte auch dann identifizieren, wenn keine Kennzeichnung mehr vorhanden ist.
Genau an dieser Stelle zeigt sich jedoch eine entscheidende Schwachstelle. Metadaten lassen sich löschen. Sie können beim Hochladen auf Plattformen, bei der Konvertierung oder beim erneuten Abspeichern einer Datei verloren gehen. Auch Wasserzeichen sind nicht unverwundbar. Zuschneiden, Komprimieren, Übersetzen, Neuvertonen oder das Erstellen eines Bildschirmfotos können sie beschädigen oder vollständig entfernen. Erkennungsprogramme liefern wiederum keinen zweifelsfreien Beweis. Sie berechnen lediglich, mit welcher Wahrscheinlichkeit ein Inhalt künstlich erzeugt wurde. Deshalb können sie einen Deepfake übersehen oder einen echten Inhalt fälschlicherweise als KI-Manipulation einstufen.
Das europäische Kennzeichnungssystem wird somit nur so zuverlässig sein wie die technischen Spuren, die das gewöhnliche Leben eines Inhalts im Internet überstehen. Ein Hinweis, der bereits beim ersten Weiterleiten verschwindet, kann Nutzer kaum wirksam schützen. Hinzu kommt ein grundsätzliches Problem: Die Kennzeichnung "mit KI erstellt" löst nur einen Teil der Herausforderung. Sie sagt etwas über den Entstehungsprozess eines Inhalts aus, aber nicht zwangsläufig über dessen Wahrheitsgehalt.
Ein synthetisch erzeugtes Video kann eine Satire, eine künstlerische Bearbeitung, eine historische Rekonstruktion für Bildungszwecke oder eine gezielte Täuschung sein. Zugleich kann eine echte Aufnahme manipulativ geschnitten oder aus ihrem Zusammenhang gerissen werden. Ein künstlich erzeugter Inhalt kann dagegen sachlich vollständig korrekt sein.
Damit droht ein problematischer Fehlschluss. Nutzer könnten gekennzeichnete Inhalte automatisch als falsch zurückweisen und ungekennzeichneten Inhalten vorschnell vertrauen. Die Deepfake-Kennzeichnung beantwortet deshalb nicht die Frage, was wahr ist. Sie eröffnet vielmehr eine neue Aufgabe für die Medienkompetenz. Nutzer müssen unterscheiden können, wer einen Inhalt erstellt hat, auf welche Weise er entstanden ist und ob seine Aussage den Tatsachen entspricht.
Selbst wenn die Kennzeichnungen technisch funktionieren, bleibt offen, ob sie das Verhalten der Nutzer tatsächlich verändern. Untersuchungen zu Warnhinweisen bei synthetischen Medien deuten darauf hin, dass Kennzeichnungen das Bewusstsein dafür stärken können, dass künstliche Intelligenz einen Inhalt möglicherweise erzeugt oder bearbeitet hat.
Das bedeutet jedoch nicht automatisch, dass Menschen einen solchen Inhalt seltener teilen, kommentieren oder für glaubwürdig halten. In sozialen Netzwerken reagieren Nutzer häufig schnell, emotional und im Einklang mit bereits vorhandenen Überzeugungen. Bestätigt ein Deepfake die eigene Sicht auf einen Politiker, einen Unternehmer oder einen Krieg, kann selbst ein Warnhinweis zu spät kommen oder zu schwach wirken. Eine Kennzeichnung ist daher ein wichtiges Signal. Sie bietet jedoch keinerlei Garantie dafür, dass sich wahre Inhalte im Internet stärker verbreiten als falsche oder manipulierte Darstellungen.
Deutschland und der EU AI Act: Unternehmen stehen vor einem Praxistest
Bei der Durchsetzung ihrer Regeln wird die EU schnell an die Grenzen eines offenen und globalen Internets stoßen. Sie kann Unternehmen regulieren, die ihre Dienste auf dem europäischen Markt anbieten. Sie kann jedoch nicht verhindern, dass ein Deepfake außerhalb der Europäischen Union entsteht, anonym veröffentlicht und innerhalb weniger Minuten auf mehrere Plattformen kopiert wird. Dabei können die ursprünglichen Hinweise auf den künstlichen Ursprung vollständig verloren gehen.
Die größten Anbieter generativer künstlicher Intelligenz dürften eigene Kennzeichnungsmechanismen entwickeln. Die gefährlichsten Akteure sind allerdings nicht zwangsläufig diejenigen, die sich an europäische Regeln halten. Sie können weniger streng kontrollierte Programme, frei verfügbare Modelle oder Dienste aus Drittstaaten einsetzen.
Dadurch könnte ein zweigeteiltes Internet entstehen. In einem regulierten Bereich wären synthetische Inhalte gekennzeichnet und ihre Herkunft zumindest teilweise nachvollziehbar. Daneben könnte sich eine Grauzone etablieren, in der gerade die problematischsten Videos und Tonaufnahmen ohne Warnhinweise zirkulieren.
Der Erfolg der europäischen Vorschriften sollte daher nicht daran gemessen werden, ob Deepfakes vollständig verschwinden. Das werden sie nicht. Ein realistischeres Kriterium wäre, ob große Plattformen und KI-Anbieter miteinander kompatible Kennzeichnungssysteme einführen. Entscheidend wird außerdem sein, ob Nutzer bei zweifelhaften Aufnahmen häufiger klare und verständliche Hinweise erhalten und ob die zuständigen Behörden systematische Verstöße wirksam ahnden können.
Für deutsche Unternehmen, Medienhäuser und Plattformbetreiber beginnt damit ebenfalls ein praktischer Belastungstest. Wer generative KI einsetzt, synthetische Inhalte veröffentlicht oder automatisierte Kommunikationssysteme bereitstellt, muss prüfen, welche Transparenzpflichten im konkreten Fall gelten. Die Vorschriften betreffen dabei nicht nur große Technologiekonzerne. Je nach Anwendung können auch kleinere Anbieter, Agenturen, Verlage und andere Unternehmen in den Anwendungsbereich fallen. Auch in Deutschland wird also sich zeigen müssen, ob Unternehmen die technischen Vorgaben zuverlässig umsetzen und ob Nutzer sichtbare Kennzeichnungen tatsächlich verstehen.
Die Europäische Kommission nennt nationale Marktüberwachungsbehörden, das europäische KI-Amt und bei EU-Institutionen den Europäischen Datenschutzbeauftragten als zuständige Stellen für die Durchsetzung. Verstöße gegen die Transparenzpflichten können bei Unternehmen grundsätzlich mit Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes geahndet werden. Dabei sollen für kleine und mittlere Unternehmen verhältnismäßige Maßstäbe gelten. Die neuen Regeln können Herkunft und Bearbeitung eines Inhalts transparenter machen. Sie können jedoch weder journalistische Prüfung noch kritisches Denken ersetzen. Die EU schafft damit ein Instrument gegen digitale Täuschung, aber kein amtliches Siegel für Wahrheit.
