Im Kampf gegen Online-Hass

Quelle: pexels-pixabay

Anna, 21

Im Kampf gegen Online-Hass

Das Internet bietet uns eine Vielzahl an Möglichkeiten, uns zu vernetzen und Informationen auszutauschen. Doch leider ist es auch ein Ort, an dem Hass und Hetze verbreitet werden. Hasskommentare, Bedrohungen und Diskriminierung sind im Netz allgegenwärtig und können schwerwiegende Auswirkungen auf Betroffene haben. Wir haben mit Besa Misimi darüber gesprochen, wie wir Hass im Netz entgegen treten können. Besa ist Mitarbeiterin bei Das Nettz, eine Initiative, die sich genau dafür einsetzt.

Quelle: Besa Misimi

Welche Gründe für Hass im Netz gibt es?

Es gibt unterschiedliche Gründe, genauso wie es unterschiedliche Gesichter von Hass gibt. Unterscheiden kann man generell Einzelpersonen, die Hass verbreiten oder ganze Netzwerke. Es ist sehr einfach, die eigene Identität im Internet zu verbergen und sich hinter einem Pseudonym zu verstecken. Es ist jedoch auch oft so, dass jene, die Hass äußern das hemmungslos, unter ihrem Klarnamen tun. Bei Plattformen wie Linkedin steht dann sogar noch der/die Arbeitgeber:in.

Möglich ist das insbesondere auch, weil die Rechtsdurchsetzung im Netz noch nicht gut funktioniert. Die meisten kommen ohne Strafe davon, Hemmschwellen bleiben niedrig, wenn es kaum Abschreckung gibt. Dies kann dazu führen, dass man sich aggressiver verhält, als man sich im analogen, „echten“ Leben verhalten würde. Man kann ganz leicht Frust und Unzufriedenheit rauslassen.

Das NETTZ ist die Vernetzungsstelle gegen Hate Speech im Internet und koordiniert die Arbeit des Kompetenznetzwerks gegen Hass im Netz. Das NETTZ fördert digitale Zivilcourage und setzt sich für eine konstruktive Diskurskultur im Netz ein.


Oft stecken negative Gefühle wie Wut, Angst, Neid oder Langeweile hinter den Anfeindungen. Die Hater:innen wollen ihre Macht demonstrieren und andere abwerten, um sich selbst besser zu fühlen. Die Algorithmen sozialer Plattformen haben auch einen Einfluss auf die Verbreitung von Hass im Netz, denn oft werden jene Inhalte nach oben befördert, die viele Interaktionen bekommen, also die besonders emotionalen und auch schockierenden. Oft stecken hinter Hasskommentaren jedoch keine Einzelpersonen, sondern organisierte Netzwerke, denen es darum geht, menschenverachtende bis rechtsextreme Inhalte zu verbreiten und politische Themen zu setzen.

Frage 1:

Wenn du im Netz auf Hass stößt, helfen dir diese sechs Schritte:

  • Wahrnehmen – Das Wichtigste ist, dass du Hass im Netz erkennst. Es ist digitale Gewalt, welche über Texte, Bilder und Videos verbreitet wird. Der Inhalt und der Ton solcher Beiträge ist oft aggressiv und herabwürdigend. Es werden Verallgemeinerungen genutzt, Fakten werden ausgeblendet und die Realität wird verzerrt.
  • Widersprechen – Besonders wichtig ist es, dass du Solidarität zeigst. Das machst du, indem du unter einen Beitrag kommentierst, dagegen sprichst und dadurch Betroffenen beistehst. Damit zeigst du Betroffenen, dass sie nicht allein damit sind. Diese aktive Unterstützung ist sehr viel wert. Wenn du dich damit schwer tust, kannst du dich an Leitfäden orientieren. Es gibt auch einen Leitfaden, wie du Counterspeech richtig einsetzt.
  • Zusammenschließen – Frag deine Freund:innen, markiere Mitkommentierende oder wende dich an Initiativen.
  • Dokumentieren – Du kannst Screenshots machen, um die Kommentare und Beiträge festzuhalten.
  • Melden – Durch das Melden von unangemessenen Kommentaren oder Beiträgen werden die Plattformen darauf aufmerksam und können aktiv werden.
  • Anzeigen – Du kannst Hassbeiträge und Hasskommentare jederzeit bei Beschwerdestellen anzeigen. Zum Beispiel bei jugendschutz.net, HateAid oder der Meldestelle REspect!. Viele Sachen sind sogar rechtlich verboten. Dazu zählen Volksverhetzung, Verbotene Zeichen, Parolen oder Aufrufe zu Gewalt. Bei solchen Sachen kann man auch direkt zur Polizei gehen oder die Straftat bei einer der Online-Wachen melden, die es inzwischen in jedem Bundesland gibt.

Frage 2:

Das Internet ist kein rechtsfreier Raum. Alles, was in der Rechtsprechung im „echten Leben“ gilt, gilt auch online. Hate Speech ist kein juristisch klar definierter Begriff, sondern eher ein Oberbegriff, der verschiedene Phänomene von Online-Hass erfassen soll.

Seit Oktober 2017 verpflichtet das Netzwerkdurchsetzungsgesetz (NetzDG) Plattformen dazu, offensichtlich strafbare Inhalte innerhalb von 24 Stunden nachdem diese gemeldet wurden zu löschen. Dazu zählen zum Beispiel verbotene Symbole, Volksverhetzung, Gewaltdarstellung und Verleumdung. Verleumdung bedeutet, dass jemand deine Ehre verletzt und hinter deinem Rücken falsche Aussagen über dich verbreitet. Quasi alles, was auch im analogen Leben strafbar ist. Man kann jederzeit, auch wenn man unsicher ist, zur Polizei oder zu Meldestellen gehen. „Ich würde raten, es lieber einmal mehr zu probieren, denn es werden nur die angezeigten Fälle auch wirklich erfasst“, sagt Besa.

Frage 3:

Hass im Netz kann sehr belastend sein. Bei einer großen repräsentativen Studien haben zwei Drittel der teilnehmenden deutschen Internetnutzer:innen angegeben, dass sich Hasskommentare negativ auf ihre Psyche auswirken. Sie haben Depressionen, Unruhe, Stress und Angst genannt. Das sind alles Dinge, die extrem belastend sind. Das macht deutlich, dass online und offline nicht zu trennen sind. Im schlimmsten Fall kann sowas auch tödlich enden.

Durch die Medien ging Ende 2022 zum Beispiel der Fall einer Impf-Ärztin aus Österreich, die mutmaßlich von massiven Hasswellen in den Suizid getrieben wurde. Ein Verfahren gegen zwei Tatverdächtige wurde inzwischen eingestellt.

Frage 4:

Prinzipiell ist es immer gut, vorausschauend an das Thema heranzugehen, sodass man sich und andere davor schützen kann. Den ersten Schritt tut man, indem man sich über das Thema informiert und sich mit Freund:innen oder der Familie darüber austauscht. Außerdem sollte man sich über die einzelnen Formen von Hass informieren und diese auch erkennen. Zudem schützt man sich, indem man persönliche Daten nicht einfach im Internet preisgibt und vorsichtig damit umgeht, damit sie nicht in falsche Hände gelangen.

Man kann Personen blockieren und auch seine Privatsphäre Einstellungen anpassen. Man sollte auch nicht direkt alles liken und teilen, damit Hassinhalte nicht weiter verstreut werden. Vorher sollte man sich fragen, ob man auch im analogen Leben so kommunizieren würde und ob man mit diesem Post oder Kommentar jemanden verletzt. Denn im Internet sollte genau so wie im realen Leben eine gesunde Form von Debattenkultur herrschen.

Frage 5:

Wenn man von Hass im Netz betroffen ist, ist es das Wichtigste, dass man erstmal Ruhe bewahrt. Folgende Nummern kann man jederzeit und kostenlos im Notfall anrufen:

• Polizeilicher Notruf: 110
• Sozialpsychiatrischer Dienst der Gesundheitsämter vor Ort
• Seelsorge: 0800 1110111

Auch wenn es sehr schwer ist, ist es wichtig, nicht auf die Hasskommentare zu reagieren. Stattdessen solltest du lieber Screenshots machen und diese melden. Auch dabei kannst du dir Unterstützung suchen. Danach sollte man sich Hilfe holen, damit man nicht alles für sich behält. Man kann mit Freunden, der Familie oder einer anderen Vertrauensperson sprechen oder sich auch professionelle Unterstützung bei Beratungsstellen suchen. HateAid bietet beispielsweise individuelle und professionelle Telefonberatungen an.

Frage 6:

Ganz aktuell hat Das Nettz einen Podcast „Trotz allem. Stimmen gegen Hass im Netz“. Die Moderatorin stellt sechs starke Stimmen aus Deutschland vor, welche selbst Hass im Netz erfahren haben und trotz allem weiter machen. Die Geschichten sollen den Hörer:innen Mut machen.

Zudem gibt es viele verschiedene zivilgesellschaftliche Organisationen. Ziel von Das Nettz ist es, diese zu vernetzen. Es gibt eine Datenbank mit Akteur:innen, das Kompetenznetzwerk gegen Hass im Netz dient als zentrale Anlaufstelle für die, die sich informieren wollen, die Hilfe suchen und die sich engagieren wollen. Das Nettz ist auch Mitglied der Bundesgemeinschaft „Gegen Hass im Netz“, die Hassdynamiken erforscht. Die Erkenntnisse fließen dann in zivilgesellschaftliche Projekte ein. Außerdem schreibt Das Nettz politische Stellungnahmen veranstaltet ein Community Event zum Thema Hass im Netz.

Deine Meinung zählt!

Wie verhältst du dich, wenn du Hate Kommentare liest?

Voting: Social Media Nutzung

Quelle: pexels-pixabay

Voting: Social Media Nutzung

Was treibt dich (am meisten) an Social Media zu nutzen?

Voting: Pro und Contra Social Media

Voting: Pro und Contra Social Media

Welche negativen Seiten von Social Media hast du selbst erlebt?

Voting: Engagement

Voting: Engagement

Welche Formen von Engagement kannst du dir für dich vorstellen?

Voting: Hasskommentare

Quelle: pexels-pixabay

Voting: Hasskommentare

Wie verhältst du dich, wenn du Hate Kommentare liest?

Voting: Pornografie im Netz

Quelle: pexels-pixabay

Voting: Pornografie im Netz

Wie oft begegnest du pornografischen Inhalten?

Voting: Aktivismus

Voting: Aktivismus

Zu welchem Thema würdest du auf die Straße gehen?

OMG! Dieser Artikel über Clickbaiting wird deine Sichtweise verändern!

Fabian, 20

OMG! Dieser Artikel über Clickbaiting wird deine Sichtweise verändern!

Auf diesem Thumbnail (Vorschaubild für Videos) findest du mehrere typische Clickbait-Bestandteile. Erkennst du sie wieder?

Sicherlich hast du schon so eine Überschrift oder so ein Bild wie hier für diesen Artikel in deinem Newsfeed oder bei YouTube entdeckt. In diesem Artikel erklären wir, was hinter solchen Titeln steckt, wie sie funktionieren und bei welchen Inhalten sie überwiegend vorkommen. Danach kennst du die wichtigsten Clickbait-Tricks!

1 Die Überschrift soll Aufmerksamkeit erregen, damit möglichst viele auf den Artikel/das Video klicken.
2 Dadurch wird die Neugier bei den Lesern geweckt.
3 Der Titel soll das Gefühl vermitteln, dass der Beitrag einen Mehrwert für den/die Leer*in hat.
4 Eine kurze Vorschau des Beitrags soll das Gefühl geben, den Artikel unbedingt lesen zu müssen.
5 Übertriebene Reaktionen sollen aufmerksam machen.
6 Je mehr Klickzahlen ein Beitrag bzw. ein Video hat, desto mehr kann der/die Creator*in für eine Werbeanzeige verlangen.

Der Begriff

Der Begriff „Clickbait“ besteht aus den zwei Wörtern „click“ und „bait“, was auf Deutsch ungefähr „Klickköder“ bedeutet. Die sensationell anmutenden Überschriften und Titel sollen Neugierde wecken (z.B.: 10 Dinge, die dein Leben verändern werden), Emotionen erzeugen oder nützlich erscheinen (OMG! Mit diesem Tipp wirst du reich). Du sollst durch die reißerische Aufmachung das Gefühl bekommen: „Das möchte ich auf keinen Fall verpassen!“. Damit steigern sich die Klicks bzw. Aufrufzahlen des Beitrags. Und das ist im Interesse der Urheber:innen – und zwar aus verschiedenen Gründen.

Das Geld zählt

Diese Klickzahlen sind sehr wichtig, denn je mehr Leser:innen ein Artikel hat, desto mehr kann für eine Werbeplatzierung auf der jeweiligen Website verlangt werden. Bei Videos, beispielsweise auf Youtube, erhält der/die Ersteller:in des Videos auch mehr Geld, wenn das Video oft angeklickt und angesehen wird. Die Monetarisierung, also das „zu Geld machen“ von Inhalten, ist somit eines der Hauptgründe für „Clickbaiting“.

Die Aufmerksamkeit zählt

Eine häufige Kombi sind auch Clickbaiting und Fake News – also bewusste Falschmeldungen, die mit aufmerksamkeitsheischenden Titeln versehen sind. Wenn in kurzer Zeit möglichst viele Menschen auf einen Beitrag klicken, belohnt das der Algorithmus bei Google, Youtube und Co. mit zusätzlicher Aufmerksamkeit – und die ist wichtig, wenn jemand mit seiner Nachricht zum Beispiel schnell Schaden anrichten möchte.

YouTube

Auf Youtube tummeln sich Clickbaits in den Thumbnails, also Vorschaubildern, der Videos von Creator:innen. Sie zeigen oft übertriebene Reaktionen und sollen dich so „catchen“, also deine Aufmerksamkeit erregen. Besonders auf dieser Plattform verbergen sich hinter diesen Videos oft Inhalte mit geringer Qualität oder ohne wirklichen Nutzen. Hier steht die Unterhaltung der Zuschauer:innen im Fokus.

Clickbait – auch im Journalismus

Auch Newsportale nutzen Clickbaiting. Dies hat mit einer Veränderung der Medienlandschaft in Deutschland zu tun. Früher musste man eine gedruckte Zeitung kaufen, um an Informationen zu gelangen. Heute reicht ein kurzer Blick und man hat alle Neuigkeiten auf seinem Handy – kostenlos. Kaum jemand abonniert noch Zeitungen. Diese Einnahmen fehlen den Verlagen. Ein Weg ist auch hier Anzeigenschaltung – und je mehr Klicks ein Beitrag bekommt, desto größer sind hier die Einnahmen. Eine andere Möglichkeit ist, Nutzer:innen dazu zu bekommen, für einen bestimmten Beitrag Geld zu bezahlen. Und das funktioniert eben auch am besten, wenn Überschrift, Bild, Vorspann, auf den ersten Blick überzeugen. Oft sind aber auch hier die Inhalte, die hinter spektakulären Titel stehen, deutlich weniger interessant, als vermutet.

Fazit

Hinter Clickbaits steht oft die Absicht, höhere Einnahmen zu erzielen. Den sensations-geladenen Überschriften können die Beiträge selbst dann gar nicht standhalten. Fällst du auf den „Köder“ rein und lässt dich angeln?

Deepfakes – Lass dich nicht täuschen!

Janane, 15

Deepfakes – Lass dich nicht täuschen!

“Wenn es so viele Hater gibt, ist mir das egal, denn ihre Daten haben mich reicher gemacht, als ich es mir je erträumt hätte.“ Diesen Satz sagt Model und Influencerin Kim Kardashian in einem Video auf Instagram. Ein anderes Video zeigt, wie der ehemalige US-Präsident Barack Obama seinen Amtsnachfolger Donald Trump einen Idioten nennt und Facebook-Gründer Mark Zuckerberg erklärt, dass er durch die Kontrolle der Daten von Facebook-Nutzer:innen auch die Kontrolle über die Zukunft hat. Was passiert da im Netz und sind die Reichen dieser Welt durchgeknallt? Natürlich haben weder Kim noch Barack oder Mark diese Aussagen getätigt. Alle drei Videos sind Deepfakes.

Deepfakes sind manipulierte Bilder, Videos oder Audiodateien, die mithilfe einer künstlichen Intelligenz erstellt werden. Damit kann man Personen, meistens Celebrities, Aussagen, die sie nie getätigt haben, in den Mund legen oder sie Handlungen, die nie stattgefunden haben, ausführen lassen. Diese gefälschten Bilder, Videos oder Audiodateien wirken realistisch und sind schwer vom Original zu unterscheiden. Das häufigste Deepfake ist der sogenannte Face-Swap. Dabei werden die Gesichter von den Leuten in den Original- Videos durch andere Gesichter ersetzt.

Zum Deepfaken brauchst du eine gute Grafikkarte, einen freien Algorithmus (da lohnen sich ein paar Programmierkenntnisse, um den Programmcode nutzen zu können), genügend Bild- oder Audiomaterial und Zeit.
Es gibt auch Apps, zum Beispiel die „Reface App“, die Deepfakes erstellen können. Damit geht es wesentlich einfacher, als mit einem Algorithmus, aber deshalb ist das Endergebnis meistens nicht so gut.

Deepfakes werden mithilfe von Deep Learning erstellt. Deep Learning ist eine Methode der Informationsverarbeitung. Beim Deep Learning werden große Datenmengen mithilfe eines künstlichen neuronalen Netzes (KNN) zersetzt, analysiert und eingeprägt. Ein KNN ist im Grunde ein Netzwerk aus künstlichen Neuronen (Nerven), das den Nervensystemen von Lebewesen nachempfunden ist und von Algorithmen, also kleinen Programmen, gesteuert wird. Die Künstliche Intelligenz (KI) kann sich also Sachen aneignen und trainieren. Durch das Gelernte kann sie am Ende eigene Schlussfolgerungen und Voraussagen erstellen und das Erlernte mit neuen Inhalten verknüpfen. Das alles passiert autonom, also selbstständig.
Bei einer Deepfake-KI wird das Material mit Mimik und Gestik des Motivs vom Encoder zerlegt und analysiert. Der Encoder lernt also quasi, welche Daten wichtig sind und wie er diese verwendet. Dabei lernt die KI wie das Motiv aussieht und sich bewegt. Diese ganzen Informationen werden dann in die „KI-Sprache“ verschlüsselt. Der Decoder entschlüsselt die Informationen dann und fertigt daraus neues Material, eine eigene Version, ein Double vom Motiv an und bildet diese auf die zweite Person ab. Dieser Prozess wiederholt sich so lange bis das Ergebnis zufriedenstellend ist. Je mehr Material und Zeit man investiert, desto besser wird das Endergebnis.

Die positive Seite könnte sich zum Beispiel beim Übersetzen von Kinofilmen oder Serien bemerkbar machen. Mithilfe von Deepfakes kann die Synchronisierung von Filmen besser gemacht werden, da die Mundbewegungen abgestimmt werden können. Ein weiterer Pluspunkt ist, dass beispielsweise Werbeagenturen Modelgesichter „mieten“ können, statt die Models extra vor Ort zu haben, wenn sie zum Beispiel Videoclips produzieren wollen. Das spart Zeit und Kosten. Durch Deepfakes könnten auch biografische Filme viel realistischer werden.
Die negative Seite von Deepfakes ist, dass mit ihnen Lügen im Netz verbreitet werden können, um zum Beispiel Meinungen zu manipulieren oder den Ruf von Leuten zu schädigen. Dies könnte zu einem Vertrauensverlust im Internet führen. Die User:innen wissen noch weniger, ob ein Video echt ist oder nicht. Deepfakes haben außerdem das Potenzial Menschen zu verletzen, zu erpressen oder in ihr Persönlichkeitsrecht einzugreifen. In vielen Deepfakes werden die Gesichter von berühmten Persönlichkeiten einfach so auf fremde Körper montiert, obwohl diese das gar nicht wollen. Im schlimmsten Fall können Kriegserklärungen gefälscht werden und damit tausenden Menschen Angst gemacht werden und vor Gericht werden Videos als Beweismittel vielleicht nicht mehr ausreichen, da sie gefälscht worden sein könnten.

Körperhaltung oder der Ton und die Mundbewegungen nicht ganz synchron. Du kannst zum Beispiel auch auf Gesichtskonturen, den Übergang zwischen Gesicht und Hals und den Mundinnenraum achten. Diese sind oft unscharf, da einzelne Pixel verrutschen. Am sichersten ist es, mehrere Quellen zu benutzen, um zu überprüfen, ob es sich um ein Deepfake handelt oder nicht.
Fest steht: Deepfakes werden besser und besser werden – aber hoffentlich auch die technischen Möglichkeiten, um sie zu entlarven. Zukünftig werden wir vielleicht „Reality Defender“ brauchen, speziell entwickelte KIs, um Deepfakes zu erkennen.

In Frankreich und Norwegen müssen bearbeitete Videos und Fotos als solche gekennzeichnet werden. In Deutschland gibt es keine speziellen Regelungen für Deepfakes, allerdings hat die Bundesregierung 2022 einen Aktionsplan gegen Deepfakes vorgelegt.
Deepfakes sind ein vielschichtiges Thema. Wir als Menschen tragen die Verantwortung dafür, ob wir ihr Potenzial für Gutes oder für Schlechtes einsetzen. Klar ist, dass wir zukünftig Gesetze brauchen, die den Umgang mit ihnen regeln, da sie immer besser und immer schwerer vom Original zu unterscheiden sein werden. Die Fragen lauten also: Wie könnten diese Gesetze aussehen und sollte man weiter an Deepfakes forschen, um diese zu verbessern?

Hier ist noch ein Beispiel Video für Deepfakes. Sieht ganz schön echt aus oder?

YouTube

Indem du auf „Akzeptieren“ klickst, bestätigst du, dass Daten gemäß unserer Datenschutzerklärung an YouTube übertragen und Cookies auf deinem Computer gespeichert werden.

Akzeptieren

Wie diskutiere ich richtig?

Doria, 23

Wie diskutiere ich richtig?

Doria (23) hat mit Tamara (15) über das Thema Diskussionskultur gesprochen. Was, wenn ich zu einem Thema nicht weiter weiß oder wenn aus einer Diskussion ein Streit wird? Tamara ist Mitglied im Debattierclub ihrer Schule und hat auch an dem Wettbewerb „Jugend debattiert“ teilgenommen – sie ist Expertin. Wie führe ich eine gute Diskussion und worauf sollte ich achten? Setz dir einfach deine Kopfhörer auf und klicke dich durch die Audios.

Findest du, dass die Politik ein gutes Beispiel dafür ist, richtig zu diskutieren?“

„Ich finde nicht wirklich. Vor allem Politiker:innen-Debatten oder auch Reden von Politiker:innen sind oft relativ ungehalten und sie sind gleichzeitig überzeugt von einer Sache.“

Wie sorge ich dafür, dass man mir in einer Diskussion zuhört?“

„Es ist immer wichtig, dass man auf einer persönlichen und emotionalen Ebene diskutiert.“

Was mache ich, wenn jemand mit mir eine Diskussion führen möchte?“

„Hier ist das Wichtigste, nicht direkt abzublocken.“

Was mache ich, wenn ich merke, dass eine Diskussion zu hitzig wird?“

„Es bringt nichts, wenn eine Diskussion oder Debatte ausschließlich auf persönlicher Ebene stattfindet.“

Was sagst du zur Debattenkultur im Internet?“

„Ich finde die Diskussions- und Debattenkultur im Internet leider ganz schlimm. (…) Streits über Messenger zu lösen, ist keine gute Idee.“

Hast du Tipps, um mit Beurteilungsangst umgehen zu können?“

„Ich finde, wenn man merkt, dass in einer Situation gerade etwas falsch ist, sollte man das auf jeden Fall ansprechen.“

Wie sieht eine gute Körperhaltung in einer Diskussion aus?“

„Auf jeden Fall ein gerader Rücken, sich aufrichten, die Brust raus.“

Kann man diskutieren lernen und wenn ja, wie fängt man am besten an?“

„Ich würde hier natürlich sagen, dass die Teilnahme an „Jugend debattiert“ oder an anderen Debattier-AGs, die an der Schule angeboten werden, sehr hilfreich sind.“

Tamara hat an dem Wettbewerb „Jugend debattiert“ teilgenommen. Mit eurer Schule könnt ihr dort ab Klasse 5 teilnehmen und lernen, wie ihr gut zuhören, Fragen stellen und streiten könnt. Damit könnt ihr an Wettbewerben auf Landes- und Bundesebene teilnehmen. Inzwischen gibt es das Programm in mehr als 35 Ländern weltweit.

Deepfakes sind manipulierte Bilder, Videos oder Audiodateien, die mithilfe einer künstlichen Intelligenz erstellt werden. Damit kann man Personen, meistens Celebrities, Aussagen, die sie nie getätigt haben, in den Mund legen oder sie Handlungen, die nie stattgefunden haben, ausführen lassen. Diese gefälschten Bilder, Videos oder Audiodateien wirken realistisch und sind schwer vom Original zu unterscheiden. Das häufigste Deepfake ist der sogenannte Face-Swap. Dabei werden die Gesichter von den Leuten in den Original- Videos durch andere Gesichter ersetzt.

Zum Deepfaken brauchst du eine gute Grafikkarte, einen freien Algorithmus (da lohnen sich ein paar Programmierkenntnisse, um den Programmcode nutzen zu können), genügend Bild- oder Audiomaterial und Zeit.
Es gibt auch Apps, zum Beispiel die „Reface App“, die Deepfakes erstellen können. Damit geht es wesentlich einfacher, als mit einem Algorithmus, aber deshalb ist das Endergebnis meistens nicht so gut.

Deepfakes werden mithilfe von Deep Learning erstellt. Deep Learning ist eine Methode der Informationsverarbeitung. Beim Deep Learning werden große Datenmengen mithilfe eines künstlichen neuronalen Netzes (KNN) zersetzt, analysiert und eingeprägt. Ein KNN ist im Grunde ein Netzwerk aus künstlichen Neuronen (Nerven), das den Nervensystemen von Lebewesen nachempfunden ist und von Algorithmen, also kleinen Programmen, gesteuert wird. Die Künstliche Intelligenz (KI) kann sich also Sachen aneignen und trainieren. Durch das Gelernte kann sie am Ende eigene Schlussfolgerungen und Voraussagen erstellen und das Erlernte mit neuen Inhalten verknüpfen. Das alles passiert autonom, also selbstständig.
Bei einer Deepfake-KI wird das Material mit Mimik und Gestik des Motivs vom Encoder zerlegt und analysiert. Der Encoder lernt also quasi, welche Daten wichtig sind und wie er diese verwendet. Dabei lernt die KI wie das Motiv aussieht und sich bewegt. Diese ganzen Informationen werden dann in die „KI-Sprache“ verschlüsselt. Der Decoder entschlüsselt die Informationen dann und fertigt daraus neues Material, eine eigene Version, ein Double vom Motiv an und bildet diese auf die zweite Person ab. Dieser Prozess wiederholt sich so lange bis das Ergebnis zufriedenstellend ist. Je mehr Material und Zeit man investiert, desto besser wird das Endergebnis.

Die positive Seite könnte sich zum Beispiel beim Übersetzen von Kinofilmen oder Serien bemerkbar machen. Mithilfe von Deepfakes kann die Synchronisierung von Filmen besser gemacht werden, da die Mundbewegungen abgestimmt werden können. Ein weiterer Pluspunkt ist, dass beispielsweise Werbeagenturen Modelgesichter „mieten“ können, statt die Models extra vor Ort zu haben, wenn sie zum Beispiel Videoclips produzieren wollen. Das spart Zeit und Kosten. Durch Deepfakes könnten auch biografische Filme viel realistischer werden.
Die negative Seite von Deepfakes ist, dass mit ihnen Lügen im Netz verbreitet werden können, um zum Beispiel Meinungen zu manipulieren oder den Ruf von Leuten zu schädigen. Dies könnte zu einem Vertrauensverlust im Internet führen. Die User:innen wissen noch weniger, ob ein Video echt ist oder nicht. Deepfakes haben außerdem das Potenzial Menschen zu verletzen, zu erpressen oder in ihr Persönlichkeitsrecht einzugreifen. In vielen Deepfakes werden die Gesichter von berühmten Persönlichkeiten einfach so auf fremde Körper montiert, obwohl diese das gar nicht wollen. Im schlimmsten Fall können Kriegserklärungen gefälscht werden und damit tausenden Menschen Angst gemacht werden und vor Gericht werden Videos als Beweismittel vielleicht nicht mehr ausreichen, da sie gefälscht worden sein könnten.

Körperhaltung oder der Ton und die Mundbewegungen nicht ganz synchron. Du kannst zum Beispiel auch auf Gesichtskonturen, den Übergang zwischen Gesicht und Hals und den Mundinnenraum achten. Diese sind oft unscharf, da einzelne Pixel verrutschen. Am sichersten ist es, mehrere Quellen zu benutzen, um zu überprüfen, ob es sich um ein Deepfake handelt oder nicht.
Fest steht: Deepfakes werden besser und besser werden – aber hoffentlich auch die technischen Möglichkeiten, um sie zu entlarven. Zukünftig werden wir vielleicht „Reality Defender“ brauchen, speziell entwickelte KIs, um Deepfakes zu erkennen.

In Frankreich und Norwegen müssen bearbeitete Videos und Fotos als solche gekennzeichnet werden. In Deutschland gibt es keine speziellen Regelungen für Deepfakes, allerdings hat die Bundesregierung 2022 einen Aktionsplan gegen Deepfakes vorgelegt.
Deepfakes sind ein vielschichtiges Thema. Wir als Menschen tragen die Verantwortung dafür, ob wir ihr Potenzial für Gutes oder für Schlechtes einsetzen. Klar ist, dass wir zukünftig Gesetze brauchen, die den Umgang mit ihnen regeln, da sie immer besser und immer schwerer vom Original zu unterscheiden sein werden. Die Fragen lauten also: Wie könnten diese Gesetze aussehen und sollte man weiter an Deepfakes forschen, um diese zu verbessern?