KI-Wasserzeichen werden Teil der Claude-Ausgaben
Anthropic will Texte und Dateien, die mit Claude erstellt werden, künftig maschinenlesbar kennzeichnen. Die unsichtbaren KI-Wasserzeichen sollen mehr Klarheit über die Herkunft digitaler Inhalte schaffen und zugleich die neuen Transparenzpflichten des EU AI Act erfüllen. Das berichten unsere Kollegen von Finance.si.
Hat ein Mensch einen Text geschrieben, stammt er von einer künstlichen Intelligenz oder entstand er mithilfe eines KI-Systems? Diese Frage gewinnt angesichts der rasanten Verbreitung generativer KI an Bedeutung. Anthropic, Entwickler der Claude-Modelle, will die Zuordnung künftig durch unsichtbare KI-Wasserzeichen erleichtern. Unterstützte Claude-Modelle betten dafür eine maschinenlesbare Markierung direkt in erzeugte Texte ein. Dateien wie PNG-, JPG- oder SVG-Dokumente erhalten zusätzlich kryptografisch signierte Metadaten, die Informationen über ihre Herkunft enthalten. Anthropic bestätigt, dass neu eingeführte unterstützte Modelle entsprechende Kennzeichnungen verwenden.
Die Kennzeichnung beschränkt sich nicht auf den Claude-Chat. Sie soll auch Inhalte erfassen, die über die Programmierschnittstelle API, Claude Code und weitere Produkte des Unternehmens entstehen. Textbasierte KI-Wasserzeichen werden Anthropic zufolge ebenfalls verwendet, wenn unterstützte Claude-Modelle über AWS, Google Cloud oder Microsoft Foundry aufgerufen werden. Bei signierten Dateimetadaten hängt die Verfügbarkeit teilweise von den technischen Möglichkeiten der jeweiligen Plattform ab.
EU AI Act verpflichtet Anbieter zur Kennzeichnung von KI-Inhalten
Hinter Anthropics Entscheidung stehen insbesondere die europäischen Regeln für künstliche Intelligenz. Artikel 50 des EU AI Act verpflichtet Anbieter bestimmter generativer KI-Systeme dazu, künstlich erzeugte oder manipulierte Inhalte maschinenlesbar zu kennzeichnen, soweit dies technisch möglich ist. Die betreffenden Transparenzpflichten gelten seit 2. August 2026.
Die Europäische Kommission hat ergänzend einen freiwilligen Verhaltenskodex für die Transparenz KI-generierter Inhalte entwickelt. Er soll Unternehmen dabei unterstützen, die gesetzlichen Anforderungen praktisch umzusetzen und ihre Einhaltung nachzuweisen. Die Teilnahme am Kodex ist freiwillig, die Transparenzpflichten des EU AI Act selbst sind dagegen verbindlich. Anthropic gehört zu den Unternehmen, die sich dem entsprechenden Kodex angeschlossen haben.
Entscheidend ist dabei die Unterscheidung zwischen dem Anbieter eines KI-Systems und der Organisation, die dieses System einsetzt. Anbieter müssen ihre Systeme so gestalten, dass KI-generierte oder manipulierte Inhalte unter den gesetzlichen Voraussetzungen maschinenlesbar erkannt werden können. Betreiber können zusätzlich verpflichtet sein, Nutzer sichtbar über bestimmte KI-Inhalte zu informieren. Das betrifft unter anderem KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse, sofern keine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat.
Bei Texten über Angelegenheiten von öffentlichem Interesse besteht diese Offenlegungspflicht nach den europäischen Regeln dagegen grundsätzlich nicht in derselben Form, wenn die Inhalte einer menschlichen Prüfung oder redaktionellen Kontrolle unterliegen und eine natürliche oder juristische Person redaktionelle Verantwortung für die Veröffentlichung trägt. Verstöße gegen bestimmte Verpflichtungen des EU AI Act können erhebliche finanzielle Konsequenzen haben. Für entsprechende Regelverletzungen sind Geldbußen von bis zu 15 Millionen Euro beziehungsweise bei Unternehmen von bis zu drei Prozent des weltweiten Jahresumsatzes vorgesehen. Die konkrete Höhe hängt unter anderem von Art und Schwere des Verstoßes ab.
Technisch funktioniert das KI-Wasserzeichen im Text anders als ein sichtbarer Schriftzug auf einem Foto. Claude integriert die Markierung nach Angaben von Anthropic unmerklich in den erzeugten Text. Bedeutung, Qualität und Lesbarkeit sollen dadurch nicht verändert werden. Da die Kennzeichnung Bestandteil des Textes ist, kann sie auch beim Kopieren und Einfügen erhalten bleiben und bestimmte nachträgliche Bearbeitungen überstehen.
Anthropic hat bislang keine vollständige technische Dokumentation veröffentlicht, anhand derer sich das Verfahren im Detail nachvollziehen lässt. Das Unternehmen arbeitet zudem an Möglichkeiten, mit denen Nutzer und externe Stellen die entsprechenden Markierungen erkennen können. Weitere technische Informationen sollen folgen. Bei unterstützten Dateien setzt Anthropic auf den offenen Standard C2PA der Coalition for Content Provenance and Authenticity. Signierte Herkunftsmetadaten können anzeigen, dass eine Datei von Claude verarbeitet wurde. Gleichzeitig lassen sich damit Veränderungen an den gespeicherten Herkunftsinformationen besser erkennen.
KI-Wasserzeichen sind für Unternehmen nur ein zusätzliches Sicherheitssignal
Die größte Herausforderung liegt in der richtigen Interpretation dieser Kennzeichnungen. Findet ein Prüfwerkzeug ein Claude-KI-Wasserzeichen, bedeutet dies nicht automatisch, dass der gesamte Text ursprünglich von einer künstlichen Intelligenz geschrieben wurde. Ein Autor kann einen Inhalt vollständig selbst verfasst und Claude anschließend lediglich für eine Übersetzung, eine sprachliche Überarbeitung oder eine Zusammenfassung genutzt haben. Das fertige Dokument kann anschließend dennoch eine Claude-Markierung tragen. Anthropic weist ausdrücklich darauf hin, dass eine Kennzeichnung nicht beweist, dass Claude der ursprüngliche Autor der enthaltenen Gedanken, Texte oder Daten war.
Auch der umgekehrte Schluss wäre falsch. Fehlt ein erkennbares KI-Wasserzeichen, beweist das keine menschliche Urheberschaft. Ein Text kann mit einem Modell entstanden sein, das die Kennzeichnung noch nicht unterstützt. Zudem können umfangreiche Bearbeitungen, Paraphrasierungen, Übersetzungen oder die Kombination mit anderem Material das Signal abschwächen oder entfernen. Sehr kurze Textausschnitte können außerdem zu wenig Informationen enthalten, um eine Markierung zuverlässig festzustellen.
Ähnliche Grenzen gelten für die Metadaten von Dateien. Sie können beispielsweise bei einer Formatkonvertierung, beim erneuten Speichern oder durch die Erstellung eines Screenshots verloren gehen. Auch C2PA-Daten machen digitale Inhalte deshalb nicht manipulationssicher.
Aus Sicht der Cybersicherheit können solche Kennzeichnungen dennoch eine zusätzliche Verteidigungsebene bilden. Bei der Untersuchung gefälschter Dokumente, Phishing-Nachrichten, manipulierter Bilder oder Desinformationskampagnen könnten Herkunftssignale dabei helfen, verdächtige Inhalte schneller einzuordnen. E-Mail-Systeme, soziale Netzwerke oder Dokumentenplattformen könnten Nutzer künftig beispielsweise darauf hinweisen, dass ein Inhalt mit einem bestimmten KI-System erstellt oder verarbeitet wurde.
Eine technische Kennzeichnung verhindert allerdings keine missbräuchliche Nutzung. Angreifer können Texte mit anderen Modellen umformulieren, Dateien konvertieren oder Inhalte über Screenshots weiterverbreiten. Das KI-Wasserzeichen liefert daher lediglich zusätzliche Informationen über mögliche Bearbeitungsschritte und ersetzt weder eine inhaltliche Prüfung noch klassische Sicherheitsmaßnahmen.
Für deutsche Unternehmen besitzt die Entwicklung unmittelbar praktische Bedeutung, da die Transparenzpflichten des EU AI Act in Deutschland ebenso gelten wie in den übrigen Mitgliedstaaten. Unternehmen müssen daher insbesondere unterscheiden, ob sie selbst als Anbieter eines KI-Systems auftreten oder externe Systeme lediglich einsetzen. Welche konkreten Kennzeichnungs- und Offenlegungspflichten greifen, hängt vom jeweiligen Einsatzfall ab.
