Deep-Fakes im Internet

Deepfakes im Internet

Das neue Zeitalter der Unwahrheitsvermutung: Droht die Infokalypse im Netz?

Stand
Autor/in
Christian Batzlen
Onlinefassung
Dominic Konrad

Der jüngste Angriff der Hamas auf Israel brachte nicht nur schockierende Bilder ins Netz, sondern auch eine Flut ungeprüfter Falschnachrichten und -bilder. Eine wachsende Herausforderung für uns alle, wenn künstliche Intelligenz bald massenhaft Deepfakes erzeugt und Wahrheit von Fiktion kaum noch zu unterscheiden ist. Warum wir lernen müssen, umzudenken.

X (ehemals Twitter)
Künstliche Intelligenz macht es immer schwieriger, manipulierte Videos und Fotos von echten Quellen zu unterscheiden. Zugleich hat Elon Musk seit der Übernahme des Mikrobloggingdienstes X (ehemals Twitter) die Bemühungungen gegen die Verbreitung von Fake-News drastisch zurückgefahren.

Hamas-Angriff auf Israel: Krieg der Desinformation

„Im Ukraine-Krieg gab es bereits viele Desinformationen“, sagt Joscha Weber im SWR2-Interview, „doch diese regelrechte Flut von Falschinformationen, falschen Bildern und Videos und aus dem Kontext gerissene Inhalten gab es so noch nicht“. Als Leiter des Factchecking bei der Deutschen Welle (DW) entlarvt Weber mit seinem Team täglich Falschmeldungen.

„Wir kommen als Faktenchecker überhaupt nicht hinterher“, erklärt Weber. „Es ist so viel, was an Falschinformationen kursiert.“

Wir können immer nur einen kleinen Teil davon überprüfen und dann dazu faktenbasierte Informationen in Form von Faktenchecks veröffentlichen. Aber in der Geschwindigkeit, in der Masse, in der, dass gerade passiert, kommen alle Faktencheck Redaktion dieser Welt nicht hinterher.

Nach dem Angriff der Hamas sind wir mitten im Informationskrieg: Videos, die angeblich zeigen, wie israelische Soldaten zwei kleine palästinensische Mädchen entführen, ebenso millionenfach gezeigte Videos Dutzender Hamas-Kämpfer mit Gleitschirmen über Israel oder sogar ein Bild von Fußballer Cristiano Ronaldo mit einer vermeintlichen palästinensischen Flagge.

Alle wurden von der Deutschen Welle durch eine Bilderrückwärtssuche als Fake entlarvt werden.

Was geht - was bleibt: Wie umgehen mit KI-Fakes?

In Zukunft wird es viel einfacher, Informationen zu manipulieren

Die Informationsüberflutung ist besonders auf Plattformen wie X (Twitter) spürbar. Seitdem Elon Musk vor einem Jahr das Ruder übernommen hat, irrt der Microblogging-Dienst wie ein Tanker ohne Kapitän durchs Netz: voll beladen mit Desinformationen, Fake-News und irreführenden Bildern und Videos aus anderen Kriegen.

Künstliche Intelligenz dürfte die Diskussion künftig stark befeuern, denkt auch Joscha Weber. „In Zukunft und das sehen wir, ist es viel einfacher, mit KI-Methoden und Tools Falschinformationen zu generieren und nicht nur aus dem Kontext zu reißen oder zu manipulieren.“ Gleichzeitig werde es immer schwieriger für Faktenprüfer, die Fehler der KI als solche zu erkennen.

SWR Science Talk Fake News und die große Vertrauenskrise

Lügen, Verschwörungstheorien, Manipulationen - welchen Nachrichten kann man noch trauen? Wie erkennt man Falschmeldungen? Der Medienwissenschaftler Bernhard Pörksen im Science Talk.

SWR2 Wissen SWR2

Wir müssen Informationen aus dem Netz kritischer hinterfragen

Wir werden lernen müssen, umzudenken und Informationen im Netz kritisch zu hinterfragen. Noch besteht quer durch alle Altersgruppen eine hohe Akzeptanz für Inhalte aus dem Netz. „Doch wir müssen in Zukunft davon ausgehen, dass, was wir im Netz sehen, erst einmal per se nicht stimmt“, warnt Weber. Sowohl im statischen als auch im bewegten Bild.

KI-Anwendungen wie Open-AIs „Dall-E“ oder Runways „Gen-2“ können beides durch lediglich Sprachbefehle erstellen lassen. 

Man erlebe derzeit eine Art Angriff auf die Autorität des vermeintlich dokumentarischen Films, sagt Bernhard Pörksen, Medienprofessor an der Universität Tübingen: „Das ist ganz gewiss eine neue Eskalationsstufe, wie sie dann unter Umständen spurlose Fälschungen erzeugen können und dass Videos ihren dokumentarischen Charakter verlieren.“

Menschen mir Handys in den Händen
Dank Handys sind Informationen immer nur einen Griff in die Hosentasche entfernt. Aber wir müssen lernen, das Gesehene noch kritischer zu hinterfragen.

Unwahr, solange die Wahrheit nicht bewiesen ist

Künftig gilt die Unwahrheitsvermutung, bis das Gegenteil beweisen ist. Der Manipulationsverdacht ist allgegenwärtig. Profitieren werden davon auch alle, die künftig einfach bei Beweisvideos behaupten können, es sei Fake. Diesen Effekt nennt die Wissenschaft „Lügner*innen-Dividende“. Donald Trump ist bisher vielleicht das bekannteste Beispiel dafür. Ein erschreckender Gedanke in unserer Informationsära.

Es ist beunruhigend, dass 50 Prozent aller Menschen, die in den sozialen Netzwerken unterwegs sind, gar nicht auf die Quelle einer Information achten. Aber die Quelle einer Information ist das Entscheidende und das definierende Signal der Einordnung.

Fest steht: Fehlinformationen werden aus dem Netz nicht verschwinden. Wir müssen ihnen aktiv begegnen. Eine Methode wäre prebunking statt debunking.

Im Kampf gegen anlassbezogene Fake News heißt das: eine schnelles Veröffentlichen korrekter Informationen wie etwa Satellitenbilder, Fotos oder Videos von Drohnen, bevor ein Fake-Narrativ den Diskurs dominiert.

Wichtig ist dabei, nur verlässliche Quellen heranzuziehen und zu vervielfältigen. Künftig müssen auch die Plattformen selbst stärker in die Verantwortung genommen werden.

Ein Jahr Twitter unter Elon Musk

Weg von Hass und Fake News Ready for X-Odus: Diese Twitteralternativen stehen in den Startlöchern

Das Netzwerk X, vormals Twitter, ist an seinem Tiefpunkt angelangt. Vom Exodus der Twitter-Nutzerinnen und -Nutzer versuchen mehrere neue Dienste zu profitieren – mit teils schleppendem Erfolg. Trotzdem gibt es aussichtsreiche Kandidaten.

SWR2 am Morgen SWR2

Unsere Quellen

Transparenz ist uns wichtig! Hier sagen wir Ihnen, woher wir unsere Infos haben!

Faktencheck: Viele Fakes rund um Hamas-Angriff auf Israel