Digitaler Donnerstag

Was ist ein Deepfake – Warum ist er so gefährlich?

Beim digitalen Donnerstag hatten wir bereits das Thema "Künstliche Intelligenz". Damit hängt auch unser nächste Thema zusammen: Deepfake. Was genau versteht man darunter und welche Gefahren bergen die Fälschungen?

Grundsätzlich versteht man unter einem Deepfake Bilder, Audio- oder Videofälschungen, die mit Hilfe von künstlicher Intelligenz erzeugt werden. Die Inhalte sind täuschend echt und so gut nicht vom Original zu unterschieden. Das Wort Deepfake setzt sich aus "Deep Learning" und "Fake" zusammen.

Beispiele eines Deepfake

Ein prominentes Beispiel eines Deepfake ist die Anti-Malaria-Kampagne aus Großbritannien. Hier übermittelte David Beckham eine Anti-Malaria-Botschaft in neun Sprachen, in der Betroffene mit dem Gesicht und der Stimme Beckhams agierten.

Ein Anwendungszweck für eine gute Sache.
Oder wie wäre es mit einem Mr. Bean-Superman:

In diesem Beispiel kann man zudem auf beeindruckende Weise sehen, wie die künstliche Intelligenz einen täuschend Echten "Alterungs-Filter" einsetzt:

Doch meistens wir die Technologie missbraucht, um falsche Informationen aus einer augenscheinlich vertrauenswürdigen Quelle zu verbreiten. Gefährlich wird dies besonders in Wahlkämpfen. Doch auch in generell kriminellen Handlungen werden mit Deepfakes potenzielle Opfer getäuscht und zu bestimmten Handlungen verleitet.

Wie funktionieren Deepfakes?

Deepfake-Inhalte werden mit zwei konkurrierenden KI-Algorithmen und Deep Learning erzeugt. Einer der Algorithmen ist der sogenannte "Generator", der andere der "Diskriminator". Der Generator erzeugt die gefälschten Multimedia-Inhalte und bittet den Diskriminator zu bestimmen, ob diese Inhalte echt oder künstlich erzeugt sind.
Die beiden Algorithmen zusammen werden üblicherweise als GAN (Generative Adversarial Network) bezeichnet. Jedes Mal, wenn der Diskriminator einen Inhalt als gefälscht identifiziert, liefert er dem Generator Informationen darüber, wie die nächste Fälschung verbessert werden muss.
Je besser es dem Generator gelingt gefälschte Videos zu erstellen, desto mehr schärft der Diskriminator die Erkennung der Fälschung. Und diese bessere Erkennung hilft dem Generator wiederum, noch bessere Fälschungen anzufertigen.

Warum werden Deepfakes immer gefährlicher?

Vor der Technologie der Deepfakes, war es relativ schwierig einen Videoinhalt mit überzeugender Qualität zu manipulieren. Deepfakes werden allerdings durch eine KI erstellt. Deswegen erfordert es keine erheblichen technischen und handwerklichen Fähigkeiten der Person hinter den Deepfakes. So kann als nahezu jeder Deepfakes erstellen und sie für ganz eigene Zwecke einsetzen. 

Ein Beispiel wäre die Überwindung biometrischer Systeme. Mit gewissen Deepfake-Verfahren ist es möglich, mediale Inhalte mit den Charakteristika einer Zielperson zu erstellen. So können biometrische System wie Fernidentifikationsverfahren (z.B. der Sprechererkennung über das Telefon oder der Videoidentifikation) übergangen werden. 

Deepfake-Verfahren können außerdem dazu verwendet werden, gezielte Phishing-Angriffe („Spear-Phishing“) durchzuführen, um Informationen und Daten zu gewinnen (Stichwort: Social Engineering).
Auch kann ein Angreifer diese Technologie zur Durchführung von Betrug und zur Abschöpfung finanzieller Mittel nutzen. Beispielsweise könnte er eine Person mit der Stimme von deren Führungskraft anrufen, um eine Geldtransaktion auszulösen („CEO-Fraud“).

Mittels Deepfake-Verfahren ist es potentiell möglich, glaubwürdige Desinformationskampagnen durchzuführen, indem manipulierte Medieninhalte von Schlüsselpersonen erzeugt und verbreitet werden. Aber auch Verleumdung von Personen kann so möglich werden. Die KI kann Personen beliebige Aussagen treffen und in beliebigen Situation darstellen lassen. So kann der Ruf dieser Person geschädigt und Unwahrheiten über sie verbreitet werden.

Wie kann ich Deepfakes möglicherweise erkennen?

Zwar ist es sehr schwierig Deepfakes zu erkennen, doch eine Chance gibt es, wenn man diese Tipps einhält:

• Gute Bildqualität, sprich eine hohe Auflösung, lassen Ungereimtheiten im Bild erkennen. Videos, bei denen ein Deepfake verdacht herrscht, sollten deswegen nicht auf dem handy angesehen werden, sondern auf einem größeren Monitor. Dabei ist es auch ratsam eine gute Farbeinstellung einzustellen.
• Wer ein potenzielles Deepfake-Video ansieht, sollte auf die Mimik der Person achten. Natürliche Reaktionen, wie z. B. Blinzeln, Stirnrunzeln oder die berühmte „Zornesader“ können von einer KI—Künstliche Intelligenz ebenfalls noch nicht gut dargestellt werden. Am besten schaut man sich das Bild verlangsamt an, um Verzerrungen zu erkennen.
• Die Quelle des Videos zu überprüfen ist ebenfalls ein wichtiger Schritt. In Videoschalten, kann man um einen Rückruf bitten, so lässt sich der Videoanruf oder das Video auch verifizieren.

Gibt es Themen aus der digitalen Welt die Euch interessieren oder Euch ein Rätsel sind? Wir gehen dem auf den Grund! Schreibt uns und der Digitale Donnerstag wird sich drum kümmern.
HIER geht es zur Themenseite des Digitalen Donnerstags