Technologie

Deepfakes – Welchen Schutz gibt es vor gefälschten KI-Medien?

Lesezeit: 4 min
02.05.2023 09:27  Aktualisiert: 02.05.2023 09:27
Deepfakes nutzen Künstliche Intelligenz, um eine Person in Video und Audio so gut nachzubilden, dass es wie echt wirkt. Wie kann man sich davor schützen?
Deepfakes – Welchen Schutz gibt es vor gefälschten KI-Medien?
Ein mit Künstlicher Intelligenz erzeugter Deepfake ist heute kaum noch als solcher erkennbar. (Foto: Pixabay/geralt)

Mehr zum Thema:  
Benachrichtigung über neue Artikel:  

Deepfakes nutzen künstliche Intelligenz, um das Abbild einer Person in einem Video oder Audio durch eine andere zu ersetzen. Es besteht die Sorge, dass Deepfakes in Zukunft stärker zur Erstellung von Fake News und als irreführende Videos verwendet werden könnten. In diesen Fällen würden sie zu einer Bedrohung für die Demokratie und Gesellschaft werden. Wie erkennt man die künstlich erzeugten Nachrichten?

Realität und Fälschung wird das Thema der nächsten Zeit sein. Durch die rasante Entwicklung der künstlichen Intelligenz nimmt auch das Thema „Deepfakes“, gemeint sind gefälschte Fotos, Videos oder Stimmaufnahmen, die von den realen medialen Informationen nicht immer zu unterscheiden sind, Fahrt auf. Immer öfter finden sich im Internet lustige Videos, die beispielsweise den Papst in einer teuren Designerjacke abbilden. Was in diesem Fall schnell als Fälschung entlarvt werden kann, ist jedoch in vielen anderen Fällen nicht mehr ganz so einfach. Als Deepfakes erstellte Inhalte haben das Ziel den Betrachter davon zu überzeugen, dass das, was er betrachtet, real ist, obwohl es das nicht ist.

Besonders beliebt bei der jüngeren Zielgruppe sind Smartphonefilter, mit denen sich das äußere Erscheinungsbild in Sekunden zu eigenen Gunsten verändern lässt. Grüne Augen, faltenfreie Haut, volles Haar - kein Problem! In null Komma nix leuchtet das eigene Antlitz in neuem Glanz. Auch das ist, wenn man es weit fast, bereits Deepfake. Denn die Person, die dort neu erschaffen wurde, ist von einer realen nicht mehr zu unterscheiden. Möglich machen solche Bilder Apps wie Lensa, DALL-E 2, FaceApp oder Midjourney. Erst kürzlich hat der Berliner Fotograf Boris Eldagsen einen renommierten Preis für sein Bild „The Electrician“ abgelehnt, weil er es teilweise mittels KI erzeugt hatte. Sein Ziel ist es unter anderem, die dringend notwendige Debatte zu beschleunigen, was als Fotografie betrachtet werden kann und was nicht.

Die Erstellung von Deepfakes ist mittlerweile kein schweres Unterfangen mehr. Es benötigt lediglich die richtigen Programme und Apps, mit denen sich ohne Vorkenntnisse täuschend echt wirkende Videos, Bilder oder Stimmen erstellen lassen. Personen können dabei in völlig beliebige Kontexte gesetzt werden, ohne dass sie jemals so stattgefunden haben. Das macht die Sache brisant.

Deepfakes als Zufallsprodukt?

Im Internet kursieren Bilder, die den russischen Staatsoberhaupt Wladimir Putin im Kniefall vor Chinas Präsident Xi Jinping zeigt. Das Bild wurde von einer Künstlichen Intelligenz (KI) generiert. Was ehemals als harmlose Spielerei angefangen hat, entwickelt sich mehr und mehr zur politischen Waffe. Die Einsatzmöglichkeit dürften Betrüger nur zu sehr animieren, die vorhandenen Mittel zu nutzen. Versicherungen dürften es zunehmend schwerer haben, manipulierte Unfallbilder von echten zu unterscheiden.

Was ein Deepfake auszeichnet, ist das Element des menschlichen Inputs. Abgesehen von der Anpassung der Trainingsdaten und dem "Ja" oder "Nein" zu dem, was der Computer im Nachhinein generiert, hat der Nutzer keinen Einfluss darauf, wie der Computer das Produkt erstellt. Dies ist bei computergestützten Technologien wie Photoshop anders. Diese werden ebenfalls zur Erstellung und Veränderung von Medien verwendet, dennoch besteht der Unterschied hierin, dass der Mensch an jedem Schritt des Prozesses beteiligt ist und am Ende des Tages das Ergebnis kontrolliert.

Bei der Erstellung von Deepfakes werden häufig „Face-Swipping-Techniken“ angewendet. Ein Zielvideo dient als Grundlage für den Deepfake, welcher mit einer Sammlung von Videoclips der Person kombiniert wird, die in das Zielvideo eingefügt werden soll. Hinzu kommt eine weitere Art des maschinellen Lernens, die so genannten Generative Adversarial Networks (GANs), die in mehreren Runden alle Fehler im Deepfake erkennen und verbessern. Der Prozess ist zwar komplex, aber dank Apps wie die chinesische App Zao oder FakeApp ist es selbst für Anfänger machbar. Eine große Anzahl von Deepfake-Software ist auf GitHub, einer Open-Source-Plattform, zu finden.

Forschen gegen Deepfakes

Die Politik ist alarmiert. Das Bundesforschungsministerium fördert aktuell 10 Projekte, in denen Fake News und andere Formen der Desinformation erforscht und Gegenmaßnahmen entwickelt werden sollen. So werden beispielsweise im Projekt „noFAKE - Effiziente Faktenchecks durch künstliche Intelligenz und Crowdsourcing“ Programme für die Erkennung von Desinformation entwickelt. Diese sichten automatisch große Datenmengen. Verdächtiges Text - oder Bildmaterial wird vorsortiert und mit ähnlichem Material in Verbindung gebracht. Die Verbreitungswege des Materials werden dabei nachgezeichnet. Laut Statista gaben 2021 zwei Drittel der Internet- und Smartphonenutzer an, seriöse von unseriösen Nachrichten im Netz unterscheiden zu können. Seitdem haben sich Deepfakes deutlich weiterentwickelt. Der radikale Medienwandel, nicht zuletzt durch das neue Tool der KI von CHAT-GTP, verlangt eine schnellere Anpassung an die Entwicklung.

Wie entlarvt man Deepfakes?

Noch ist es manchmal möglich Deepfakes zu erkennen. Wirken Details verschwommen oder undeutlich? Wenn die Haut oder die Haare einer Person auf dem Video unschärfer zu sein scheint als die Umgebung, in der sie sich befindet, dann könnte es sich um ein manipuliertes Bild handeln. Unnatürliche weich gezeichnete Schärfen in Bildern, Beleuchtungen, die nicht passen, dass alles könnten Indizien sein. Oft behalten die Deepfake-Algorithmen die Beleuchtung der Clips bei, die als Vorlage für das gefälschte Video gedient haben. Dies kann zu einer Disharmonie mit der Beleuchtung im Zielvideo führen.

Stimmen die Worte oder Töne mit dem Bildmaterial überein? Es kann sein, dass der Ton nicht mit der Person übereinstimmt, vor allem, wenn das Video gefälscht, der Originalton aber nicht sorgfältig angepasst wurde. Ist die Quelle zuverlässig? Eine Technik, die von Journalisten und Forschern häufig verwendet wird, um die wahre Quelle eines Bildes zu überprüfen, ist die umgekehrte Bildersuche. Dabei wird geschaut, wer und wo das Bild veröffentlicht wurde und ob es Sinn macht, es dort zu veröffentlichen, wo es veröffentlicht wurde.

Da jedoch die Programme immer besser werden, ist es nur eine Frage der Zeit, bis der Laie keinen Unterschied mehr zwischen Real und Fiktion erkennt. Daher kann es nicht in seiner Verantwortung liegen, richtig von falsch zu unterscheiden. Vielmehr muss es die Aufgabe der Entwickler sein, Maßnahmen oder Methoden zu entwickeln, um Deepfakes zu entlarven. Dies ist zum Glück bereits der Fall wie die Projekte des Bundesministeriums zeigen. Aber auch eine ganze Reihe von neuen Unternehmen haben die Möglichkeit erkannt, die sich mit Deepfakes auftun.

Das Schweizer Unternehmen Quantum Integrity entwickelt KI-Software, die sich hauptsächlich auf Deepfake-Fälle im Versicherungsbereich oder auf dem Bereich von personellem Identitätsschutz konzentriert. Sensity aus den Niederlanden hat eine Art Antivirus für Deepfakes entwickelt, dass Nutzer per E-Mail warnt, wenn sie etwas angeschaut haben, das Spuren von KI-generierten Medien aufweist. Operation Minerva wiederum verfolgt den Ansatz, potenzielle Fälschungen mit bekannten, originalen Videos zu vergleichen, die bereits mit einem digitalen Fingerabdruck versehen wurden. Es ähnelt dennoch einem Katz- und Maus-Spiel. Kaum zieht die eine Seite nach, ist auf der anderen Seite wieder ein neues Programm mit noch raffinierterer Technik am Start. Es bleibt abzuwarten, wann die Politik die Maßnahmen gegen solch ein Vorgehen stärker sanktioniert.

                                                                            ***

Sofia Delgado ist freie Journalistin und arbeitet seit 2021 in Stuttgart, nachdem sie viereinhalb Jahre lang in Peking gelebt hat. Sie widmet sich gesellschaftskritischen Themen und schreibt für verschiedene Auftraggeber. Persönlich priorisiert sie die Themen Umweltschutz und Nachhaltigkeit, als dringendste Herausforderung für die Menschheit.

 


Mehr zum Thema:  

DWN
Technologie
Technologie E-Helikopter vor der Serienreife? Bei Olympia sind deutsche Flugtaxis über Paris im Test
25.07.2024

Die deutschen Tüftler und Ingenieure scheinen mal wieder sehr weit vorne zu sein: bei der Entwicklung von umweltfreundlichen Hubschraubern...

DWN
Finanzen
Finanzen Aktienmarkt: Wie lange hält der KI-Hype noch an - Risiko Trump?
25.07.2024

Bis Anfang Juli sah es an den US-Börsen und auch am deutschen Aktienmarkt noch ziemlich gut aus. Allmählich verfliegt die Euphorie wieder...

DWN
Politik
Politik Baden-Württemberg setzt auf KI-System in der Verwaltung
25.07.2024

Vielleicht kann Künstliche Intelligenz ein Befreiungsschlag für die vielerorts heillos überforderten und unterbesetzten deutschen Ämter...

DWN
Immobilien
Immobilien Zukunft der deutschen Shopping-Center: „New Look“ Hotspots mit Palette von Angeboten 
25.07.2024

Digitalisierung und verändertes Einkaufsverhalten rütteln schon seit einiger Zeit an den Grundlagen der traditionellen deutschen...

DWN
Politik
Politik Flugausfälle nach erneuter Klimakleber-Attacke am Flughafen Frankfurt
25.07.2024

Wegen einer erneuten Störung von Klimademonstranten ging am Frankfurter Flughafen für Stunden nichts mehr. Bei vielen Urlaubern dürften...

DWN
Unternehmen
Unternehmen Crowdstrike-Panne und Kaspersky-Kontroverse: Die große Cyber(un)sicherheit im deutschen Mittelstand
25.07.2024

Nach der Crowdstrike-Panne dürfte die Diskussion um das Verbot der russischen Antivirensoftware Kaspersky wieder aufflammen. In den USA...

DWN
Politik
Politik Friedensverhandlungen: Ukraine signalisiert Gesprächsbereitschaft mit Russland
25.07.2024

Der ukrainische Außenminister ist in Peking auf der Suche nach einer diplomatischen Lösung des Krieges. China spielt eine wichtige Rolle...

DWN
Politik
Politik Die Sache mit dem bedingungslosen Grundeinkommen hat sich erledigt!
25.07.2024

Bei uns wird noch geforscht und diskutiert. In den USA ist eine erste große Studie jetzt abgeschlossen: Sie beweist, dass das...