Das Bundesamt für Informationssicherheit warnt aktuell vor sogenannten Deepfakes, gerade auch im Bezug auf den Enkeltrick oder andere Telefonbetrugsmaschen. Daher fordert das Amt Entlarvungs-Techniken für solche Fakes. Im öffentlichen Raum, auch im Netz, sei das Entlarven solcher Fälschungen schon gut möglich. Problematisch werde es beispielsweise bei Privatpersonen, so Thomas Bornheim, der unter anderem den KI-Salon in Heilbronn leitet.
Gefahren für die gesamte Gesellschaft
Die Gefahren für die Bürgerinnen und Bürger sind damit recht klar: Die Betrugsmaschen werden noch schwerer zu durchschauen.
Doch auch gesamtgesellschaftlich könnten die Deepfakes noch für Furore sorgen. So gab es erst Ende Mai eine Falschmeldung von Russia Today (RT) wonach das Pentagon in Washington in Flammen gestanden haben soll. Sofort wirkte sich das auf den Börsenkurs aus, Millionenbeträge seien verloren gegangen, erinnert sich Bornheim. Zwar sei der Fake nach rund zehn Minuten aufgeklärt gewesen, die potentiellen Gefahren für die gesamte Gesellschaft dürften aber deutlich geworden sein.
Entlarvung bei Trickbetrügern oftmals schwierig
Daher sei die Forderung nach Entlarvungs-Techniken gut, richtig und wichtig. Nur nicht immer ganz trivial, erklärt Bornheim. Bei Telefonbetrügern stelle sich das deshalb schwieriger dar, da nicht jeder Fall in der Öffentlichkeit lande und oftmals keine Aufnahmen der Gespräche am Telefon existierten. Und nicht in jeder Leitung könne immer ein Polizeibeamter mithören, versuchen zu erkennen, ist das echt oder ein Fake.
Gerade was mit bloßem Auge schnell erkennbar sei, beispielsweise das offensichtlich nicht brennende Pentagon in den USA, sei allerdings auch leicht als Fake zu erkennen. Auch arbeite beispielsweise der Grafikkartenhersteller Nvidia an Techniken zur Entlarvung und sei da führend, so Bornheim im Gespräch mit dem SWR.
Cyber-Sicherheit auch in der Region zuhause
Wiederum ein Unternehmen aus Baden-Württemberg, genauer Aleph Alpha aus Heidelberg, arbeite aktuell an einem Programm, das ebenfalls mithilfe Künstlicher Intelligenz solche Fakebilder untersuchen und die Quellen der einzelnen Bestandteile finden kann. Am Beispiel des Pentagons etwa, dass zu sehende Explosionen oder Flammen aus anderen Videos stammen.
Eigene IT-Infrastruktur und Kundensystem absichern SAP und Schwarz-Gruppe arbeiten künftig bei Cybersicherheit zusammen
Der Softwarehersteller SAP und die Schwarz-Gruppe wollen künftig bei der Abwehr von Cyberangriffen zusammenarbeiten. SAP setze auf XM Cyber, eine Sicherheitslösung von Schwarz.
Und auch in Heilbronn arbeite man an der Hochschule, dem KI-Salon oder der Programmierschule 42 an der Cyber-Sicherheit. Zwar geht es hier primär um Prävention von Hacker-Angriffen, weniger um Deepfakes, doch auch da stünde die Region gut da. Als Beispiel nennt Bornheim einen Studierenden seiner Programmierschule, der eine Apple-Sicherheitslücke aufgedeckt hatte, die das Unternehmen daraufhin dankend behoben habe.
