Deepfakes

Janane, 15

Deepfakes – Lass dich nicht täuschen!

“Wenn es so viele Hater gibt, ist mir das egal, denn ihre Daten haben mich reicher gemacht, als ich es mir je erträumt hätte.“ Diesen Satz sagt Model und Influencerin Kim Kardashian in einem Video auf Instagram. Ein anderes Video zeigt, wie der ehemalige US-Präsident Barack Obama seinen Amtsnachfolger Donald Trump einen Idioten nennt und Facebook-Gründer Mark Zuckerberg erklärt, dass er durch die Kontrolle der Daten von Facebook-Nutzer:innen auch die Kontrolle über die Zukunft hat. Was passiert da im Netz und sind die Reichen dieser Welt durchgeknallt? Natürlich haben weder Kim noch Barack oder Mark diese Aussagen getätigt. Alle drei Videos sind Deepfakes.

Deepfakes sind manipulierte Bilder, Videos oder Audiodateien, die mithilfe einer künstlichen Intelligenz erstellt werden. Damit kann man Personen, meistens Celebrities, Aussagen, die sie nie getätigt haben, in den Mund legen oder sie Handlungen, die nie stattgefunden haben, ausführen lassen. Diese gefälschten Bilder, Videos oder Audiodateien wirken realistisch und sind schwer vom Original zu unterscheiden. Das häufigste Deepfake ist der sogenannte Face-Swap. Dabei werden die Gesichter von den Leuten in den Original- Videos durch andere Gesichter ersetzt.

Zum Deepfaken brauchst du eine gute Grafikkarte, einen freien Algorithmus (da lohnen sich ein paar Programmierkenntnisse, um den Programmcode nutzen zu können), genügend Bild- oder Audiomaterial und Zeit.
Es gibt auch Apps, zum Beispiel die „Reface App“, die Deepfakes erstellen können. Damit geht es wesentlich einfacher, als mit einem Algorithmus, aber deshalb ist das Endergebnis meistens nicht so gut.

Deepfakes werden mithilfe von Deep Learning erstellt. Deep Learning ist eine Methode der Informationsverarbeitung. Beim Deep Learning werden große Datenmengen mithilfe eines künstlichen neuronalen Netzes (KNN) zersetzt, analysiert und eingeprägt. Ein KNN ist im Grunde ein Netzwerk aus künstlichen Neuronen (Nerven), das den Nervensystemen von Lebewesen nachempfunden ist und von Algorithmen, also kleinen Programmen, gesteuert wird. Die Künstliche Intelligenz (KI) kann sich also Sachen aneignen und trainieren. Durch das Gelernte kann sie am Ende eigene Schlussfolgerungen und Voraussagen erstellen und das Erlernte mit neuen Inhalten verknüpfen. Das alles passiert autonom, also selbstständig.
Bei einer Deepfake-KI wird das Material mit Mimik und Gestik des Motivs vom Encoder zerlegt und analysiert. Der Encoder lernt also quasi, welche Daten wichtig sind und wie er diese verwendet. Dabei lernt die KI wie das Motiv aussieht und sich bewegt. Diese ganzen Informationen werden dann in die „KI-Sprache“ verschlüsselt. Der Decoder entschlüsselt die Informationen dann und fertigt daraus neues Material, eine eigene Version, ein Double vom Motiv an und bildet diese auf die zweite Person ab. Dieser Prozess wiederholt sich so lange bis das Ergebnis zufriedenstellend ist. Je mehr Material und Zeit man investiert, desto besser wird das Endergebnis.

Die positive Seite könnte sich zum Beispiel beim Übersetzen von Kinofilmen oder Serien bemerkbar machen. Mithilfe von Deepfakes kann die Synchronisierung von Filmen besser gemacht werden, da die Mundbewegungen abgestimmt werden können. Ein weiterer Pluspunkt ist, dass beispielsweise Werbeagenturen Modelgesichter „mieten“ können, statt die Models extra vor Ort zu haben, wenn sie zum Beispiel Videoclips produzieren wollen. Das spart Zeit und Kosten. Durch Deepfakes könnten auch biografische Filme viel realistischer werden.
Die negative Seite von Deepfakes ist, dass mit ihnen Lügen im Netz verbreitet werden können, um zum Beispiel Meinungen zu manipulieren oder den Ruf von Leuten zu schädigen. Dies könnte zu einem Vertrauensverlust im Internet führen. Die User:innen wissen noch weniger, ob ein Video echt ist oder nicht. Deepfakes haben außerdem das Potenzial Menschen zu verletzen, zu erpressen oder in ihr Persönlichkeitsrecht einzugreifen. In vielen Deepfakes werden die Gesichter von berühmten Persönlichkeiten einfach so auf fremde Körper montiert, obwohl diese das gar nicht wollen. Im schlimmsten Fall können Kriegserklärungen gefälscht werden und damit tausenden Menschen Angst gemacht werden und vor Gericht werden Videos als Beweismittel vielleicht nicht mehr ausreichen, da sie gefälscht worden sein könnten.

Körperhaltung oder der Ton und die Mundbewegungen nicht ganz synchron. Du kannst zum Beispiel auch auf Gesichtskonturen, den Übergang zwischen Gesicht und Hals und den Mundinnenraum achten. Diese sind oft unscharf, da einzelne Pixel verrutschen. Am sichersten ist es, mehrere Quellen zu benutzen, um zu überprüfen, ob es sich um ein Deepfake handelt oder nicht.
Fest steht: Deepfakes werden besser und besser werden – aber hoffentlich auch die technischen Möglichkeiten, um sie zu entlarven. Zukünftig werden wir vielleicht „Reality Defender“ brauchen, speziell entwickelte KIs, um Deepfakes zu erkennen.

In Frankreich und Norwegen müssen bearbeitete Videos und Fotos als solche gekennzeichnet werden. In Deutschland gibt es keine speziellen Regelungen für Deepfakes, allerdings hat die Bundesregierung 2022 einen Aktionsplan gegen Deepfakes vorgelegt.
Deepfakes sind ein vielschichtiges Thema. Wir als Menschen tragen die Verantwortung dafür, ob wir ihr Potenzial für Gutes oder für Schlechtes einsetzen. Klar ist, dass wir zukünftig Gesetze brauchen, die den Umgang mit ihnen regeln, da sie immer besser und immer schwerer vom Original zu unterscheiden sein werden. Die Fragen lauten also: Wie könnten diese Gesetze aussehen und sollte man weiter an Deepfakes forschen, um diese zu verbessern?

Hier ist noch ein Beispiel Video für Deepfakes. Sieht ganz schön echt aus oder?

YouTube

Indem du auf „Akzeptieren“ klickst, bestätigst du, dass Daten gemäß unserer Datenschutzerklärung an YouTube übertragen und Cookies auf deinem Computer gespeichert werden.

Akzeptieren