Deepfakes erkennen, vermeiden und verantwortungsvoll nutzen

Was ist ein Deepfake? Stellen Sie sich ein Video vor, in dem Ihr Lieblingsschauspieler Ihnen persönliche Grüße übermittelt – oder eine Aufnahme, in der ein Politiker Aussagen macht, die er nie getätigt hat. Dahinter kann Deepfake-Technologie stehen, die selbst aufmerksame Betrachter täuschen kann. In diesem Artikel erfahren Sie, wie Sie Deepfakes erkennen, wie Sie damit verbundene Risiken vermeiden und das kreative Potenzial der Technik verantwortungsvoll nutzen. Im Folgenden finden Sie sowohl faszinierende als auch beunruhigende Fakten über Deepfakes und KI.

Deepfake – was ist das?

Der Begriff Deepfake bezeichnet eine Gruppe fortschrittlicher Verfahren, die das Gesicht einer Person auf den Körper einer anderen übertragen, Stimmen verändern oder völlig neue, realistische Bilder und Videos erstellen kann. Möglich wird dies durch künstliche Intelligenz (KI) und Deep Learning. Die Modelle werden mit großen Mengen an Bild-, Video- oder Audiodaten trainiert und lernen daraus, Merkmale menschlicher Darstellung nachzuahmen. Deepfakes können beispielsweise auf generativen Modellen wie GANs (Generative Adversarial Networks) basieren. Bei einem GAN treten zwei neuronale Netze gegeneinander an: Eines erzeugt synthetische Inhalte, das andere bewertet deren Echtheit. Durch dieses Zusammenspiel werden Deepfakes zunehmend realistischer. Das Ergebnis sind Bilder oder Videos, die nur schwer von echten zu unterscheiden sind. Möchten Sie tiefer in das Thema einsteigen? Ein ganzes Kapitel über Deepfakes finden Sie im Buch „Sozialtechnik aus der Sicht eines Detektivs – Angriff und Verteidigung“ von Dawid Kuciel.

Deepfake – Beispiele

Wenn ein Algorithmus die Merkmale Ihres Gesichts aus Fotos in sozialen Medien erlernt, kann er diese Daten nutzen, um Ihr Gesicht in ein Video einzufügen, in dem Sie tatsächlich nie zu sehen waren. Darüber hinaus ermöglicht die Deepfake-Technologie auch die Manipulation von Stimmen. So kann eine Aufnahme entstehen, in der Sie scheinbar etwas sagen, das Sie nie geäußert haben.

Ein anschauliches Beispiel für einen Deepfake sehen Sie auf YouTube in dem Video Simon Cowell Show Incredible Voice on AGT, in dem die Technologie in einem unterhaltsamen Kontext bei America's Got Talent (AGT) eingesetzt wurde. Das Video lässt den Juror Simon Cowell scheinbar selbst singen. Es zeigt, wie Deepfakes in der Unterhaltung genutzt werden können und wie realistisch KI-generierte Bild- und Toneffekte wirken.

Wie werden Deepfakes erstellt?

Für die Erstellung von Deepfakes werden insbesondere folgende Ressourcen benötigt:

• geeignete Software,

• leistungsfähige Hardware

• und ausreichend Trainingsdaten.

Es ist jedoch wichtig zu beachten, dass bei der Erstellung von Deepfakes für rechtswidrige Zwecke – etwa Betrug, Verletzungen der Privatsphäre oder die Verbreitung falscher Informationen – schwerwiegende rechtliche Folgen drohen, was wir weiter unten in diesem Beitrag erläutern.

Wenn Sie dagegen nachvollziehen möchten, wie Deepfakes erstellt werden, und sie ausschließlich in folgenden Bereichen einsetzen:

• Bildung,

• Forschung,

• kreative Projekte,

benötigen Sie geeignete Werkzeuge und Ausgangsdaten. Damit lassen sich Bild und Ton so bearbeiten, dass Personen oder Figuren im Ergebnis möglichst glaubwürdig wirken. Der Prozess umfasst mehrere Arbeitsschritte und setzt passende Hard- und Software voraus.

Zunächst benötigen Sie hochwertige Eingabedaten – also Videos oder Fotos der Person, deren Gesicht übertragen werden soll. Die zur Erstellung von Deepfakes verwendeten Algorithmen analysieren diese Materialien, um Gesichtsdetails wie Augen- und Mundform, Bewegungen der Gesichtsmuskulatur sowie Gesichtsausdrücke zu erlernen. Dann wird mit Hilfe von Algorithmen wie Generative Adversarial Networks (GANs) oder Autoencodern das einzufügende Gesicht so angepasst, dass Aussehen und Bewegung dem Ausgangsvideo folgen. Große Datensätze dienen dabei als Grundlage, um Gesichtsdetails und Körperbewegungen nachzubilden.

Zusätzlich benötigen Sie zur Erstellung eines Deepfakes geeignete Computerhardware – in der Regel Computer mit leistungsfähigen Grafikkarten (GPUs), die große Datenmengen in kurzer Zeit verarbeiten können. Hinzu kommt geeignete Software wie DeepFaceLab, Faceswap oder Reface mit Werkzeugen zur Erstellung und Bearbeitung von Videos. Daneben gibt es webbasierte Angebote, die sich etwa über den Suchbegriff „kostenloser Deepfake-Generator“ finden lassen; ein Beispiel ist hoodem.com.

Die Audioverarbeitung ist ebenfalls ein wichtiger Aspekt, da Deepfake-Videos meist auch eine Tonspur enthalten. Erforderlich ist daher die Synchronisierung des Tons mit den Mundbewegungen des Gesichts. Diese Aufgabe ist anspruchsvoll, weil Deepfakes über die reine Bildmanipulation hinausgehen. Mithilfe von Sprachsynthese lässt sich die Stimme an das jeweilige Material anpassen. Für Online-Deepfake-Stimmgeneratoren stehen beispielsweise Dienste wie Speechify oder Wavel AI zur Verfügung.

Sind Deepfakes legal?

Die rechtliche Beurteilung von Deepfakes richtet sich vor allem nach Zweck und Kontext ihrer Verwendung. Künstlerische Arbeiten, technische Experimente oder Unterhaltung können zulässig sein, sofern dabei die Rechte anderer gewahrt bleiben. Wird die Technik dagegen eingesetzt, um Privatsphäre, Würde oder Sicherheit zu verletzen, können Sanktionen und zivilrechtliche Ansprüche folgen. Entscheidend sind somit Urheber, Zweck und Kontext. Problematisch sind etwa kompromittierende Videos ohne Zustimmung der abgebildeten Personen, virtuelle „Klone“ von Politikern mit frei erfundenen Aussagen oder gefälschte Überweisungsaufforderungen eines vermeintlichen Vorgesetzten. Werden Deepfakes für Betrug, Desinformation oder Rufschädigung eingesetzt, können neben ethischen auch rechtliche Grenzen überschritten werden.

Welche Folgen kann die rechtswidrige Erstellung von Deepfakes haben?

Verschiedene rechtliche Konsequenzen drohen bei der illegalen Nutzung der Deepfake-Technologie. Wenn Deepfakes verwendet werden, um falsche Beweise in Gerichtsverfahren zu erstellen, muss die verantwortliche Person mit rechtlichen Konsequenzen rechnen, darunter dem Vorwurf der Beweisfälschung. In Fällen, in denen Deepfakes verwendet werden, um Personen zu diffamieren oder zu erpressen, können Täter wegen Verletzung der Privatsphäre angeklagt werden, was hohe Geld- oder Freiheitsstrafen nach sich ziehen kann. Auch die Verbreitung von Deepfake-Material, das Persönlichkeitsrechte oder den Ruf öffentlicher Personen verletzt, kann zivilrechtliche Ansprüche auslösen; Betroffene können unter anderem Entschädigung verlangen. Interessanterweise werden in der Europäischen Union bereits zahlreiche Initiativen unternommen, um Desinformation zu bekämpfen, einschließlich der Regulierung der Verwendung von Deepfake-Technologie, insbesondere im Zusammenhang mit Wahlen oder Politik.

Wie erkennen Sie Deepfakes?

Das Erkennen von Deepfake-Technologie kann schwierig sein und erfordert Aufmerksamkeit. Achten Sie insbesondere auf unnatürliche Gesichtsbewegungen, die zu starr oder unbeholfen erscheinen können. Gesichtsausdrücke passen manchmal nicht ganz zum emotionalen Kontext der Situation, und Mundbewegungen können inkonsistent mit den gesprochenen Worten sein. Künstliche Intelligenz findet es besonders schwierig, Details wie Blinzeln oder Augenbewegungen zu reproduzieren, die unrealistisch erscheinen können.

Bleiben Sie auch wachsam gegenüber unnatürlicher Beleuchtung – Schatten oder Hauttexturen können vom übrigen Bild abweichen. Der Ton ist ein weiteres wichtiges Element – passt die Stimme nicht zum Bild, klingt sie mechanisch oder fehlt eine natürliche Intonation, kann dies auf eine Manipulation hindeuten.

Prüfen Sie außerdem, ob Inhalt, Kontext und emotionale Reaktion plausibel zusammenpassen. Auch fortgeschrittene Deepfakes können kleine Unstimmigkeiten hinterlassen. Bei Zweifeln helfen Verifizierungswerkzeuge, die Videoinhalte auf Auffälligkeiten untersuchen, beispielsweise Microsoft Video Authenticator. Prüfen Sie außerdem die Quelle: Bei anonymen oder unzuverlässigen Plattformen ist das Manipulationsrisiko höher.

Deepfake-Technologie – wie lässt sie sich kreativ nutzen?

Die Deepfake-Technologie wird zwar vor allem mit Manipulation und Bedrohungen verbunden, bietet aber auch kreatives Potenzial. Denkbar sind etwa Ausstellungen, in denen Vincent van Gogh scheinbar über seine Bilder spricht, oder Dokumentationen, in denen Königin Elizabeth I. ein heutiges Publikum anspricht. Auch personalisierte Werbung kann mit solchen Verfahren produziert werden. Verantwortungsbewusst eingesetzt, kann die Technik neue Formen des visuellen Erzählens ermöglichen.

Wie schützen Sie sich vor Deepfakes?

Beginnen Sie mit den Grundlagen: Ein Passwortgenerator hilft Ihnen, starke und einzigartige Passwörter zu erstellen und damit Ihre Konten besser zu schützen. Bei Deepfakes sollten Sie außerdem auf den Schutz Ihres Abbilds und Ihrer persönlichen Daten achten. Eine Möglichkeit besteht darin, Fotos und Videos nur mit Bedacht im Internet zu teilen. Je mehr geeignetes Material öffentlich verfügbar ist, desto größer ist das Risiko eines Missbrauchs. Beschränken Sie deshalb den Zugriff auf Ihre Fotos und Videos in sozialen Medien und auf anderen Plattformen. Schützen Sie Ihre Konten außerdem mit zusätzlichen Sicherheitsmaßnahmen wie YubiKey-Schlüsseln. Ziehen Sie außerdem Programme wie Sensity in Betracht, die Gesichtstausch sowie manipulierte Audioaufnahmen und KI-generierte Bilder erkennen sollen. Der Technologiekonzern aus Redmond beteiligt sich ebenfalls an der Erkennung künstlich erzeugter oder manipulierter Inhalte. Microsoft Video Authenticator unterstützt Bemühungen gegen Desinformation, indem es Fotos und Videos auf subtile Änderungen analysiert, die durch künstliche Intelligenz eingeführt wurden und für das menschliche Auge unsichtbar sind.

Lesen Sie auch den Beitrag im SAPSAN-Blog, in dem wir erklären, worum es bei Cybersicherheit geht.