Forschungsprojekt mit künstlicher Intelligenz

Wie erschreckend gut Offenburger Studierende Stimmen imitieren

STAND

Fakt oder Fake? Das lässt sich immer schwerer entscheiden. Wie gut Computer inzwischen sogar menschliche Stimmen imitieren, haben jetzt Studierende der Hochschule Offenburg bewiesen.

Dem Offenburger Hochschulprofessor Andreas Schaad und seinem Team ist es gelungen, menschliche Stimmen mit Hilfe künstlicher Intelligenz zu klonen. Als Kopiervorlage diente ihnen dabei zum Beispiel Bundeskanzlerin Angela Merkel, genauer gesagt, ihre Stimme. Insgesamt 18 Stunden Merkel-Interviews und Reden haben die Studierenden für ihr Projekt ausgeschlachtet.

"Nachdem wir die Daten gesammelt haben, haben wir ein System mit künstlicher Intelligenz trainiert", erklärt Student Pascal Munaretto. "Das kann man sich in etwa so vorstellen wie ein Kind, das am Anfang nichts weiß, und wir bringen diesem Kind bei, wie man aus Text die Stimme von Angela Merkel erstellt."

Bundeskanzlerin Angela Merkel im Fernsehen (Foto: SWR)
Hat sie das wirklich gesagt? Auch Angela Merkels Stimme konnten Offenburger Studierende mit Computern täuschend echt imitieren.

Und das System lernt schnell. Es kann der Kanzlerin Worte in den Mund legen, die sie nie gesagt hat. Täuschend echt und doch Fake. Selbst die Studierenden sind beeindruckt.

"Es ist erschreckend, dass man jeden Satz, den man will, generieren lassen kann.
Von der Stimme her hört sich das gut an."

Auch der Professor selbst gehörte zu den Versuchskaninchen. Mit knapp zweieinhalb Stunden Audiomaterial von ihm - und sogar relativ schlechtem Material - war es möglich, seine Stimme so gut zu klonen, dass weniger als die Hälfte der Teilnehmer in einer Studie zwischen echter und falscher Stimme unterscheiden konnte. Es gibt bereits die ersten Fälle, wo Kriminelle gefälschte Stimmen als neue Betrugsmasche nutzen - egal ob am Telefon oder im Internet. Auch Wählerinnen und Wähler könnten getäuscht werden, fürchtet Andreas Schaad.

"Das Schlimmste wäre natürlich so etwas wie: Herr Minister sagt, die Impflicht wird durchgesetzt. Und dann wird das als manipuliertes Video mit manipuliertem Ton massenhaft gezielt im Internet verbreitet. Einen Tag vor der Bundestagswahl könnte das natürlich maßgeblich das Wahlergebnis beeinflussen."

Wie schnell und wie gut sich menschliche Stimmen imitieren lassen, das hat das Forschungsprojekt an der Hochschule Offenburg eindrücklich gezeigt - ebenso wie die Gefahr die davon ausgeht.

STAND
AUTOR/IN