Definition

Deepfake

Mitarbeiter: Ivy Wigmore

Bei einem Deepfake (oder auch Deep Fake) werden mit Hilfe von künstlicher Intelligenz Bilder, Audio- oder Videofälschungen erzeugt, die täuschend echte Inhalte vorgaukeln. Der Begriff Deepfake ist ein Kofferwort aus Deep Learning und Fake.

Bei einem Beispiel in Großbritannien wurde die Technologie für eine Anti-Malaria-Kampagne genutzt. In dem Video übermittelte David Beckham eine Anti-Malaria-Botschaft in neun Sprachen, in der Betroffene mit dem Gesicht und der Stimme Beckhams agierten. Es existieren jedoch selbstverständlich weit weniger redliche Anwendungszwecke für die Technologie. So kann der Ansatz missbraucht werden, um falsche Informationen aus einer augenscheinlich vertrauenswürdigen Quelle zu verbreiten. Das kann beispielsweise zu politischen Zwecken, etwa während eines Wahlkampfes, geschehen. Oder einfach in krimineller Absicht, um potenzielle Opfer zu täuschen und zu bestimmten Handlungen zu verleiten.

Wie funktionieren Deepfakes?

Bei der Erzeugung von Deepfake-Inhalten kommen zwei konkurrierende KI-Algorithmen (künstliche Intelligenz) und Deep Learning zum Einsatz. Der eine Algorithmus wird als Generator bezeichnet, der zweite als Diskriminator. Der Generator erzeugt die gefälschten Multimedia-Inhalte und bittet den Diskriminator zu bestimmen, ob diese Inhalte echt oder künstlich erzeugt sind.

Die beiden Algorithmen zusammen werden üblicherweise als GAN (Generative Adversarial Network) bezeichnet. Jedes Mal, wenn der Diskriminator einen Inhalt als gefälscht identifiziert, liefert er dem Generator Informationen darüber, wie die nächste Fälschung verbessert werden muss.

Der erste Schritt bei der Einrichtung eines GAN besteht darin, das gewünschte Ausgabeergebnis zu bestimmen und einen Schulungsdatensatz für den Generator zu erstellen. Sobald der Generator beginnt ein akzeptables Ausgangsniveau zu erzeugen, können beispielsweise die ersten Videoclips an den Diskriminator übergeben werden.

Je besser es dem Generator gelingt gefälschte Videos zu erstellen, desto mehr schärft der Diskriminator die Erkennung der Fälschung. Und diese bessere Erkennung hilft dem Generator wiederum, noch bessere Fälschungen anzufertigen.

Bevor diese Technologie zur Verfügung stand, war es relativ schwierig beispielsweise Videoinhalte in dieser Qualität zu manipulieren. Da Deepfakes jedoch durch KI erstellt werden, erfordern sie nicht die erheblichen technischen und handwerklichen Fähigkeiten, die sonst zur Erstellung realistischer Fälschungen erforderlich wären. Dies bedeutet leider, dass nahezu jeder Deepfakes erstellen und für die ganz eigenen Zwecke einsetzen kann. Zudem bringen Deepfakes gleich zwei Gefahren mit sich. Zum einen nehmen Betrachter die Ergebnisse für bare Münze. Zum anderen schwächt dies möglicherweise das allgemeine Vertrauen in Video- oder andere Multimediainhalte.

Diese Definition wurde zuletzt im Oktober 2020 aktualisiert

Erfahren Sie mehr über Bedrohungen

ComputerWeekly.de

Close