Wie erkenne ich Deepfakes?

Stellen Sie sich vor, Sie könnten wie Bruno Mars tanzen oder wie Whitney Houston singen - binnen eines Tages. Heutzutage ist das, zumindest technologisch, recht leicht zu schaffen: In manipulierten Videos kann jeder von uns in eine andere Rolle schlüpfen. Alles, was man braucht, um eine gewünschte, alternative Realität zu schaffen, ist visuelles Material und eine Stimmaufnahme. Das Ergebnis nennt man Deepfake, also ein mithilfe von künstlicher Intelligenz kreierter oder veränderter Medieninhalt.  

Dieses Beispiel von Bruno Mars von 2018 ist schon sehr beeindruckend - mittlerweile können Deepfakes allerdings noch deutlich mehr: Sie können realistischer und überzeugender sein. Nur kleinste Details verraten uns in manchen Fällen, dass es sich um eine Fälschung handelt.

Was sind Deepfakes?

Der Begriff Deepfake beschreibt Audio- und Videodateien, die mithilfe von Künstlicher Intelligenz (KI) erstellt wurden. Dabei gibt es alle möglichen Arten von Deepfakes: Sogenannte "face swaps", bei denen das Gesicht einer Person mit einem anderen Gesicht ausgetauscht wird. Lippensynchronisation, bei der der Mund der sprechenden Person so verändert wird, dass sie etwas anderes sagt als im Originalvideo. Oder auch das Klonen von Stimmen, bei dem eine Stimme sozusagen kopiert wird, um andere Aussagen zu treffen. 

Bei Deepfakes können auch komplett synthetische Gesichter und Körper generiert werden, beispielsweise digitale Avatare. Mit der Technologie können auch tote Menschen wieder lebendig werden, zumindest virtuell. Hier wurde der 1989 verstorbene Künstler Salvador Dalí virtuell ins Leben zurückgeholt. 

Diese synthetischen Videomanipulationen werden mit sogenannten Generative Adversarial Networks (GAN, zu Deutsch etwa: "erzeugende gegnerische Netzwerke") produziert. Ein GAN ist ein maschinelles Lernmodell, bei dem zwei neuronale Netze miteinander konkurrieren, um genauere Ergebnisse zu erzielen. In einfachen Worten: Ein Computer sagt dem anderen Computer, ob der digitale Klon, den er von Ihnen erstellt hat, überzeugend genug ist, indem er ihn mit dem Originalmaterial vergleicht. Bewegen Sie sich gleich, klingen Sie gleich, ist Ihr Gesichtsausdruck derselbe? Das System verbessert sich durch mehrere Versuche, bis es mit dem Ergebnis zufrieden ist.

Aber keine Sorge: Auch wenn die Technologie ständig verbessert wird und sehr ausgeklügelt ist, können Sie Fälschungen erkennen - wenn Sie wissen, worauf Sie achten müssen.

Wie erkennt man Deepfakes?

Sie müssen kein Deepfake-Experte werden, um zu erkennen, was real ist und was fake. Hier ein paar Tipps:

1. Atmen Sie durch und schauen nochmal genauer hin. Fragen Sie sich selbst: Kann das wirklich echt sein? Würde ich erwarten, dass das Abgebildete wirklich passiert? Wenn Sie sich unsicher sind, teilen Sie die Inhalte nicht in den Sozialen Netzwerken.
2. Überprüfen Sie, ob Sie die gleiche Geschichte oder das gleiche Narrativ auch in einer anderen, vertrauenswürdigen Quelle finden. Eine kurze Internetrecherche einer Überschrift sollte Sie zur richtigen Geschichte führen.
3. Suchen Sie eine andere Version des Videos und vergleichen Sie sie. Wenn Sie einer Behauptung, einem Bild oder einem Video nicht glauben, dann beschreiben Sie es auf Google oder DuckDuckGo. Sie können dabei eine einfache Internetrecherche oder die Bilderrückwärtssuche nutzen. Wie das geht, erklärt ein weiterer Faktencheck.
4. Eine weitaus größere Herausforderung ist das Aufspüren von (fast un)sichtbaren Spuren in synthetischen und manipulierten Medien. Solche Manipulationen lassen sich erkennen, indem man nach seltsamen Sprüngen in einem Video, einer veränderten Betonung der Stimme, schlechter Audioqualität, verschwommenen Stellen, seltsamen Formen von Gliedmaßen und anderen ungewöhnlichen Ungereimtheiten sucht. Vertrauen Sie auf Ihre Sinne und Ihr Bauchgefühl. Fragen Sie sich immer: Ergibt das einen Sinn? Sehen Sie genau hin und schauen Sie immer zweimal hin. Achten Sie auf Details und bitten Sie einen Freund oder Kollegen um eine zweite Meinung. 
5. Achten Sie auf bekannte Deepfake-Merkmale: ein perfekt symmetrisches Gesicht, nicht zusammenpassende Ohrringe, verformte Brillen, ungewöhnliche Ohr-, Nasen- und Zahnformen, Kontrastverlust, Unstimmigkeiten im Nackenbereich, Haare oder Finger, die nicht verbunden sind.
6. Manchmal müssen Sie sich ein Video Bild für Bild ansehen, um diese Unstimmigkeiten zu erkennen. Sie können dies mit einem lokalen Videoplayer (z. B. VLC) oder online mit watchframebyframe.com tun.
7. Zoomen Sie an Mund- und Lippenbewegungen heran und vergleichen Sie sie mit Ihrem eigenen menschlichen Verhalten, um Lippensynchronisation zu erkennen. Wie sollte ein Mund aussehen, wenn er ein bestimmtes Geräusch macht?

Beim Erkennen von Deepfakes kommt es vor allem auf Ihre Sinne an. Die gute Nachricht: Sie können diese trainieren. In diesem Training finden Sie Übungen, um Ihre Seh- und Hörfähigkeiten zu schärfen. Wenn Sie diese Übungen durchführen, werden Sie sicherer im Erkennen von fast (un)sichtbaren Spuren in synthetischen und manipulierten Medien.

Wie werden Deepfakes eingesetzt?

Die Deepfake-Technologie hat vor allem im Bereich der Pornografie und spezifischer bei sogenannten Rachepornos enorme Auswirkungen. Gefälschte Pornovideos und -bilder werden weit verbreitet und fügen ihren Opfern, die von Prominenten bis zu Schulkindern reichen, Schaden zu. Für die Gesellschaft liegt die Gefahr von Deepfakes auch in der Art und Weise, wie Medien heutzutage konsumiert werden. Der Durchschnittsbürger wird im Internet mit Medien überschwemmt und ist sich nicht immer sicher, ob das, was er teilt, auch wirklich der Wahrheit entspricht.

In polarisierten Gesellschaften bietet das reichlich Gelegenheit, Menschen etwas vorzugaukeln - unabhängig vom Wahrheitsgehalt. Deshalb ist die Qualität des Videos gar nicht so wichtig. Es geht darum, was man scheinbar mit eigenen Augen gesehen hat, auch wenn es nicht stimmt. Ein paar Beispiele:

• Wie der damalige griechische Finanzminister Yanis Varoufakis Deutschland den Mittelfinger zeigt
• Wie David Beckham plötzlich neun Sprachen spricht
• Wie Mark Zuckerberg angeblich sagt, er kontrolliere Sie, weil er Ihre gestohlenen Daten kontrolliert

Ein politisch motivierter Deepfake, der in den Niederlanden viral ging, wurde von der Nachrichtenseite "De Correspondent" erstellt und scheint zu zeigen, dass der niederländische Premierminister Mark Rutte einen grundlegenden Wandel in seiner Politik verkündet hat: Von nun an wird er weitreichende Klimamaßnahmen voll unterstützen.

Dann gibt es noch die "Lügendividende". Damit ist ein "Freifahrtschein" für gezielte öffentliche Lügen gemeint. Sie legt nahe, dass einige Politiker von einem Informationsumfeld profitieren, das mit Fehlinformationen gesättigt wird. Die bloße Existenz der Deepfake-Technologie ermöglicht es manchen Akteuren, zu behaupten, dass das, was sie gesagt haben, ein Deepfake ist. Zu beweisen, dass etwas tatsächlich wahr ist, ist äußerst schwierig.Das bekannteste Beispiel.Das bekannteste Beispiel dafür ist Donald Trump, der behauptete, die Aufnahme von "grab them by the p****" sei "ein Fake", nachdem er sich zunächst dafür entschuldigt hatte.

Fazit

Die meisten Desinformationen werden aus einem bestimmten Grund veröffentlicht: um Zweifel zu wecken, um populäre Überzeugungen zu unterstützen oder um sich lautstark gegen andere Überzeugungen zu positionieren. Und mit der Weiterentwicklung der KI-Technologie ist es wahrscheinlich, dass Deepfakes genau dafür in Zukunft häufiger eingesetzt werden, die Gefahr durch Fake News also auf ein ganz neues Level heben könnten. Manchmal ist es schwierig, Bilder und Töne zu überprüfen, die aus dem Kontext gerissen, bearbeitet oder inszeniert wurden. Das zeigt auch dieses virale Beispiel: Hat Tesla-Gründer Elon Musk einen chinesischen Doppelgänger oder ist das nur ein kunstvoller Deepfake? 

So können Sie trainieren, einen Deepfake besser zu erkennen - unsere wichtigsten Tipps:

Mehr zur Serie "Wie erkenne ich Desinformation?":

• Wie erkenne ich Fake News?
• Wie erkenne ich manipulierte Bilder?
• Wie erkenne ich Fake-Accounts, Bots und Trolle?
• Wie erkenne ich staatliche Propaganda?

 

Der Text wurde aus dem Englischen adaptiert.