Deepfakes – Welchen Schutz gibt es vor gefälschten KI-Medien?

Deepfakes nutzen künstliche Intelligenz, um das Abbild einer Person in einem Video oder Audio durch eine andere zu ersetzen. Es besteht die Sorge, dass Deepfakes in Zukunft stärker zur Erstellung von Fake News und als irreführende Videos verwendet werden könnten. In diesen Fällen würden sie zu einer Bedrohung für die Demokratie und Gesellschaft werden. Wie erkennt man die künstlich erzeugten Nachrichten?

Realität und Fälschung wird das Thema der nächsten Zeit sein. Durch die rasante Entwicklung der künstlichen Intelligenz nimmt auch das Thema „Deepfakes“, gemeint sind gefälschte Fotos, Videos oder Stimmaufnahmen, die von den realen medialen Informationen nicht immer zu unterscheiden sind, Fahrt auf. Immer öfter finden sich im Internet lustige Videos, die beispielsweise den Papst in einer teuren Designerjacke abbilden. Was in diesem Fall schnell als Fälschung entlarvt werden kann, ist jedoch in vielen anderen Fällen nicht mehr ganz so einfach. Als Deepfakes erstellte Inhalte haben das Ziel den Betrachter davon zu überzeugen, dass das, was er betrachtet, real ist, obwohl es das nicht ist.

Besonders beliebt bei der jüngeren Zielgruppe sind Smartphonefilter, mit denen sich das äußere Erscheinungsbild in Sekunden zu eigenen Gunsten verändern lässt. Grüne Augen, faltenfreie Haut, volles Haar - kein Problem! In null Komma nix leuchtet das eigene Antlitz in neuem Glanz. Auch das ist, wenn man es weit fast, bereits Deepfake. Denn die Person, die dort neu erschaffen wurde, ist von einer realen nicht mehr zu unterscheiden. Möglich machen solche Bilder Apps wie Lensa, DALL-E 2, FaceApp oder Midjourney. Erst kürzlich hat der Berliner Fotograf Boris Eldagsen einen renommierten Preis für sein Bild „The Electrician“ abgelehnt, weil er es teilweise mittels KI erzeugt hatte. Sein Ziel ist es unter anderem, die dringend notwendige Debatte zu beschleunigen, was als Fotografie betrachtet werden kann und was nicht.

Die Erstellung von Deepfakes ist mittlerweile kein schweres Unterfangen mehr. Es benötigt lediglich die richtigen Programme und Apps, mit denen sich ohne Vorkenntnisse täuschend echt wirkende Videos, Bilder oder Stimmen erstellen lassen. Personen können dabei in völlig beliebige Kontexte gesetzt werden, ohne dass sie jemals so stattgefunden haben. Das macht die Sache brisant.

Deepfakes als Zufallsprodukt?

Im Internet kursieren Bilder, die den russischen Staatsoberhaupt Wladimir Putin im Kniefall vor Chinas Präsident Xi Jinping zeigt. Das Bild wurde von einer Künstlichen Intelligenz (KI) generiert. Was ehemals als harmlose Spielerei angefangen hat, entwickelt sich mehr und mehr zur politischen Waffe. Die Einsatzmöglichkeit dürften Betrüger nur zu sehr animieren, die vorhandenen Mittel zu nutzen. Versicherungen dürften es zunehmend schwerer haben, manipulierte Unfallbilder von echten zu unterscheiden.

Was ein Deepfake auszeichnet, ist das Element des menschlichen Inputs. Abgesehen von der Anpassung der Trainingsdaten und dem "Ja" oder "Nein" zu dem, was der Computer im Nachhinein generiert, hat der Nutzer keinen Einfluss darauf, wie der Computer das Produkt erstellt. Dies ist bei computergestützten Technologien wie Photoshop anders. Diese werden ebenfalls zur Erstellung und Veränderung von Medien verwendet, dennoch besteht der Unterschied hierin, dass der Mensch an jedem Schritt des Prozesses beteiligt ist und am Ende des Tages das Ergebnis kontrolliert.

Bei der Erstellung von Deepfakes werden häufig „Face-Swipping-Techniken“ angewendet. Ein Zielvideo dient als Grundlage für den Deepfake, welcher mit einer Sammlung von Videoclips der Person kombiniert wird, die in das Zielvideo eingefügt werden soll. Hinzu kommt eine weitere Art des maschinellen Lernens, die so genannten Generative Adversarial Networks (GANs), die in mehreren Runden alle Fehler im Deepfake erkennen und verbessern. Der Prozess ist zwar komplex, aber dank Apps wie die chinesische App Zao oder FakeApp ist es selbst für Anfänger machbar. Eine große Anzahl von Deepfake-Software ist auf GitHub, einer Open-Source-Plattform, zu finden.

Forschen gegen Deepfakes

Die Politik ist alarmiert. Das Bundesforschungsministerium fördert aktuell 10 Projekte, in denen Fake News und andere Formen der Desinformation erforscht und Gegenmaßnahmen entwickelt werden sollen. So werden beispielsweise im Projekt „noFAKE - Effiziente Faktenchecks durch künstliche Intelligenz und Crowdsourcing“ Programme für die Erkennung von Desinformation entwickelt. Diese sichten automatisch große Datenmengen. Verdächtiges Text - oder Bildmaterial wird vorsortiert und mit ähnlichem Material in Verbindung gebracht. Die Verbreitungswege des Materials werden dabei nachgezeichnet. Laut Statista gaben 2021 zwei Drittel der Internet- und Smartphonenutzer an, seriöse von unseriösen Nachrichten im Netz unterscheiden zu können. Seitdem haben sich Deepfakes deutlich weiterentwickelt. Der radikale Medienwandel, nicht zuletzt durch das neue Tool der KI von CHAT-GTP, verlangt eine schnellere Anpassung an die Entwicklung.

Wie entlarvt man Deepfakes?

Noch ist es manchmal möglich Deepfakes zu erkennen. Wirken Details verschwommen oder undeutlich? Wenn die Haut oder die Haare einer Person auf dem Video unschärfer zu sein scheint als die Umgebung, in der sie sich befindet, dann könnte es sich um ein manipuliertes Bild handeln. Unnatürliche weich gezeichnete Schärfen in Bildern, Beleuchtungen, die nicht passen, dass alles könnten Indizien sein. Oft behalten die Deepfake-Algorithmen die Beleuchtung der Clips bei, die als Vorlage für das gefälschte Video gedient haben. Dies kann zu einer Disharmonie mit der Beleuchtung im Zielvideo führen.

Stimmen die Worte oder Töne mit dem Bildmaterial überein? Es kann sein, dass der Ton nicht mit der Person übereinstimmt, vor allem, wenn das Video gefälscht, der Originalton aber nicht sorgfältig angepasst wurde. Ist die Quelle zuverlässig? Eine Technik, die von Journalisten und Forschern häufig verwendet wird, um die wahre Quelle eines Bildes zu überprüfen, ist die umgekehrte Bildersuche. Dabei wird geschaut, wer und wo das Bild veröffentlicht wurde und ob es Sinn macht, es dort zu veröffentlichen, wo es veröffentlicht wurde.

Da jedoch die Programme immer besser werden, ist es nur eine Frage der Zeit, bis der Laie keinen Unterschied mehr zwischen Real und Fiktion erkennt. Daher kann es nicht in seiner Verantwortung liegen, richtig von falsch zu unterscheiden. Vielmehr muss es die Aufgabe der Entwickler sein, Maßnahmen oder Methoden zu entwickeln, um Deepfakes zu entlarven. Dies ist zum Glück bereits der Fall wie die Projekte des Bundesministeriums zeigen. Aber auch eine ganze Reihe von neuen Unternehmen haben die Möglichkeit erkannt, die sich mit Deepfakes auftun.

Das Schweizer Unternehmen Quantum Integrity entwickelt KI-Software, die sich hauptsächlich auf Deepfake-Fälle im Versicherungsbereich oder auf dem Bereich von personellem Identitätsschutz konzentriert. Sensity aus den Niederlanden hat eine Art Antivirus für Deepfakes entwickelt, dass Nutzer per E-Mail warnt, wenn sie etwas angeschaut haben, das Spuren von KI-generierten Medien aufweist. Operation Minerva wiederum verfolgt den Ansatz, potenzielle Fälschungen mit bekannten, originalen Videos zu vergleichen, die bereits mit einem digitalen Fingerabdruck versehen wurden. Es ähnelt dennoch einem Katz- und Maus-Spiel. Kaum zieht die eine Seite nach, ist auf der anderen Seite wieder ein neues Programm mit noch raffinierterer Technik am Start. Es bleibt abzuwarten, wann die Politik die Maßnahmen gegen solch ein Vorgehen stärker sanktioniert.