Zurzeit kursieren im Netz Audiodateien, die wie Mitschnitte aus der Tagesschau mit Susanne Daubner oder Jens Riewa klingen. Das sei möglich mittels „Stimmsynthese“, erklärt Sandra Müller, multimediale Redaktionsleiterin des SWR-Studios Tübingen, die sich seit Jahren mit fortgeschrittenen Audio-Werkzeugen beschäftigt. Die KI schaue sich die Besonderheit der Stimme an und könne genau diese Stimme neu synthetisieren, sagt Müller.
Originale oder Fälschung?
In den im Netz kursierenden Audiodateien entschuldigen sich die Sprecher im Namen des öffentlich-rechtlichen Rundfunks dafür, ihren Zuschauern seit über drei Jahren dreist ins Gesicht gelogen zu haben. Gemeint ist damit die Berichterstattung zur Corona-Pandemie, dem Ukrainekrieg und der angeblichen Denunzierung von Demonstranten.
Derartige Fälschungen ließen sich mittlerweile mit kostenfreien Tools aus dem Netz problemlos auch von Laien herstellen, so Müller. Eine gesetzliche Haftung gegenüber solchen Anbietern existiere derzeit noch nicht.
Wer einmal fälscht, hat immerhin schon die Befähigung dazu bewiesen
Ein anderes Beispiel ist die Werbekampagne der Bild-Zeitung, in der die Stimme von Bundeskanzler Olaf Scholz gefälscht wird. Zwar laufe diese Werbung mit einem Disclaimer auch bei den öffentlich-rechtlichen Sendern im Radio, sagt Müller. Aber: Dieser Fall könne die Skepsis der Nutzer gegenüber Informationen und journalistischen Audios wecken, meint Müller.
Denn durch KI wisse man nicht mehr, wem man vertrauen könne: „Sie können sich fragen: War das eine originale Aufnahme oder ist es eine Fälschung?“. Das würde für Medienschaffende berufsethische Fragen aufwerfen: „Wo und wie wollen wir KI einsetzen? Wo sollen wir KI kategorisch ablehnen?“, so Müller.
Mehr zum Thema Fake-News
Was geht - was bleibt? Zeitgeist. Debatten. Kultur. KI-Fake-News in Bild und Ton: Droht uns die Infokalypse?
Mitten drin im „Informationskrieg“ – nach dem Anschlag der Hamas in Israel hat die Menge an Fake-News in den Netzwerken eine nie da gewesene Qualität erreicht. Nachrichten werden für die einen selbst Kriegswerkzeug dank Manipulation.
Von angeblichen Kidnapping-Videos palästinensischer Mädchen, über aus dem Kontext gerissene ägyptische Fallschirmspringer bis hin zu Cristiano Ronaldo angeblich mit einer palästinensischen Flagge im Stadion. Das stellt den Journalismus vor neue Herausforderungen, sagt Josha Weber, Journalist beim Fact-Checking Deutsche Welle: “So eine Flut an aus dem Kontext gerissenen Falschinformationen wie wir sie derzeit erleben, hat es so auch im Ukrainekrieg noch nicht gegeben. Wir kommen als Fakten-Checker gar nicht hinterher, wir können nur einen kleinen Teil davon analysieren.”
„Wir müssen die Plattformen, auf denen Desinformationskampagnen stattfinden, noch stärker in die Verantwortung nehmen. Gerade Elon Musk versucht zurzeit X/Twitter wieder so zu führen wie 2008“, sagt Christian Katzenbach, Professor für Kommunikations- und Medienwissenschaft Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG)
Mit ihm gehen wir der Problematik um YouTube, Facebook, TikTok, Instagram, WhatsApp, Telegram und den vielen anderen Plattformen auf den Grund. “Die benutzen wir immer noch zu achtlos”, sagt Bernhard Pörksen, Medienprofessor Universität Tübingen, "Wir achten beim Medienkonsum bisher viel zu wenig auf die Quelle. Aber die Quelle einer Information ist das entscheidende Detail bei der Einordnung”
Laut Josha Weber fordern manche sogar noch mehr: “KI-Experten sagen uns, wir müssen lernen umzudenken: Wir müssen in Zukunft davon ausgehen, dass das, was im Netz steht, erstmal nicht stimmt.” Der Manipulationsverdacht wird also künftig allgegenwärtig.
Mailt uns Feedback und Themenideen an kulturpodcast@swr.de.
Host: Christian Batzlen
Showrunner: Julian Burmeister
Sendungsmusik (Intro): “The Great Debate” (Dream Theater)
Links zur Sendung:
https://www.nzz.ch/feuilleton/weltbilder-erschuettern-mit-arnold-schwarzenegger-oder-wie-man-desinformation-und-propaganda-wirksam-bekaempft-ld.1691236
https://uni-tuebingen.de/forschung/zentren-und-institute/internationales-zentrum-fuer-ethik-in-den-wissenschaften/publikationen/blog-bedenkzeiten-alt/weitere-blog-artikel/schaden-deepfakes-wirklich-der-demokratie/
https://www.boell.de/de/2020/10/12/fehlinformationen-verstehen-unsere-gesellschaft-unsere-technologie-wir-selbst
