Deepfake – wie erkennen, wie vermeiden und wie nutzen

Was ist ein Deepfake? Stellen Sie sich vor, Sie sehen ein Video, in dem Ihr Lieblingsschauspieler Ihnen persönliche Grüße übermittelt. Oder eine Aufnahme, in der ein Politiker Dinge zugibt, die nie passiert sind. Klingt wie Magie? Nein, das ist Deepfake-Technologie, die selbst das aufmerksamste Auge täuschen kann. In diesem Artikel zeigen wir Ihnen, wie man Deepfakes erkennt, wie man damit verbundene Bedrohungen vermeidet und wie man ihr Potenzial kreativ nutzen kann. Sind Sie bereit, faszinierende und manchmal doch recht beunruhigende Fakten über Deepfakes und KI zu erfahren? Lassen Sie uns eintauchen.

Deepfake – was ist das?

Um besser zu verstehen, was ein Deepfake ist, stellen Sie sich eine fortschrittliche Technologie vor, die das Gesicht einer Person auf den Körper einer anderen übertragen, Stimmen verändern oder völlig neue, realistische Bilder und Videos erstellen kann. All dies ist dank künstlicher Intelligenz (KI) und Deep-Learning-Methoden möglich. Diese Algorithmen analysieren riesige Datenmengen wie Fotos, Videoaufnahmen oder Stimmen und lernen, menschliches Verhalten mit bemerkenswerter Präzision nachzuahmen. Deepfake basiert auf generativen Modellen wie GANs (Generative Adversarial Networks). Ein GAN ist ein System aus zwei Algorithmen – einer erstellt gefälschte Inhalte, und der andere versucht, sie zu erkennen. Dank dieses "Wettbewerbs" werden Deepfakes immer realistischer, da der Generator besser darin wird, den Detektor zu täuschen. Das Ergebnis sind Bilder oder Videos, die nur schwer von echten zu unterscheiden sind. Fühlen Sie sich ermutigt, tiefer in dieses Thema einzutauchen? Ein ganzes Kapitel über Deepfakes finden Sie im Buch Sozialtechnik aus der Sicht eines Detektivs - Angriff und Verteidigung von Dawid Kuciel.

Deepfake – Beispiele

Wenn ein Algorithmus Ihr Gesicht anhand von Social-Media-Fotos "lernt", kann er diese Daten nutzen, um Ihr Gesicht in ein Video einzufügen, an dem Sie nie teilgenommen haben. Darüber hinaus ermöglicht die Deepfake-Technologie Stimmmanipulation, was bedeutet, dass jemand eine Aufnahme erstellen kann, in der Sie etwas sagen, was Sie nie gesagt haben!

Ein perfektes Beispiel für Deepfake sehen Sie auf YouTube in dem Video Simon Cowell Show Incredible Voice on AGT, wo diese Technologie in einem unterhaltsamen und humorvollen Kontext bei America's Got Talent (AGT) präsentiert wurde. Das Material zeigt einen Deepfake, der den berühmten Juror Simon Cowell scheinbar in einen singenden Künstler verwandelt! Das Video ist ein hervorragendes Beispiel dafür, wie Deepfakes Unterhaltung bieten können und gleichzeitig demonstrieren, wie realistisch die von künstlicher Intelligenz erzeugten visuellen und akustischen Effekte sein können.

Deepfake – wie erstellt man es?

Das Erstellen von Deepfakes ist technisch für Personen möglich, die Zugang zu entsprechender:

• Software,

• Hardware

• und natürlich den notwendigen Daten haben.

Es ist jedoch wichtig zu beachten, dass das Erstellen von Deepfakes für unethische oder illegale Zwecke, wie Betrug, Verletzung der Privatsphäre oder Verbreitung falscher Informationen, gegen das Gesetz verstößt und zu schwerwiegenden rechtlichen Konsequenzen führen kann, was wir weiter unten in diesem Beitrag erläutern.

Wenn Sie jedoch daran interessiert sind, wie man einen Deepfake erstellt für rein:

• bildende,

• Forschungs-

• oder künstlerische Zwecke,

dann müssen Sie zunächst die richtigen Tools verwenden. Diese ermöglichen es Ihnen, Bilder und Ton so zu manipulieren, dass Gesichter oder Charaktere auf eine Weise aussehen und sich verhalten, die zwar noch etwas unnatürlich, aber realistisch ist. Der gesamte Prozess erfordert mehrere wichtige Schritte und die richtige Ausrüstung.

Zunächst benötigen Sie hochwertige Eingabedaten – Videos oder Fotos der Person, deren Gesicht "übernommen" werden soll. Die zur Erstellung von Deepfakes verwendeten Algorithmen analysieren diese Materialien, um Gesichtsdetails wie die Form der Augen, des Mundes, Bewegungen der Gesichtsmuskeln und Ausdrücke zu erlernen. Dann wird mit Hilfe von Algorithmen wie Generative Adversarial Networks (GANs) oder Autoencodern das Gesicht der Person, die in das Video eingefügt wird, so verändert, dass es gemäß dem Basisvideo aussieht und sich bewegt. Riesige Datensätze werden verwendet, um zu lernen, Gesichtsdetails und Körperbewegungen nachzuahmen.

Zusätzlich benötigen Sie zur Erstellung eines Deepfakes geeignete Computerhardware – in der Regel Computer mit hochwertigen Grafikkarten (GPUs), die die Verarbeitung großer Datenmengen in kurzer Zeit ermöglichen. Sie benötigen auch die richtigen Programme und Software wie DeepFaceLab, Faceswap oder Reface, die fertige Tools zum Erstellen und Bearbeiten von Videos bieten. Sie können auch online nach Websites mit Begriffen wie freier Deepfake-Generator suchen. Ein Beispiel ist hoodem.com.

Die Audioverarbeitung ist ebenfalls ein wichtiger Aspekt, da Deepfake-Videos oft Audio enthalten. Dies erfordert die Synchronisierung des Tons mit den Mundbewegungen des Gesichts, was schwierig sein kann, da Deepfakes über einfache Bildmanipulation hinausgehen können. Ton kann mit Hilfe von Sprachsynthesizer-Technologien bearbeitet werden, die die Stimme an das ausgewählte Material anpassen. Was Online-Deepfake-Stimmgeneratoren betrifft, so finden Sie Websites wie Speechify oder Wavel AI.

Ist Deepfake legal?

Die Legalität von Deepfakes läuft auf ein sehr wichtiges Thema hinaus: den Zweck und Kontext ihrer Verwendung. Wenn es sich um Kunst, technologische Experimente oder Spaß innerhalb vernünftiger Grenzen handelt, ist daran nichts auszusetzen. Wenn das Werkzeug jedoch zu einer Waffe wird, die die Privatsphäre, Würde oder Sicherheit des Menschen angreift, dann betreten wir den Bereich der Sanktionen, Klagen und sozialen Verurteilung. Wie bei jeder Erfindung – alles hängt davon ab, wer am Steuer sitzt und warum. Deepfakes können leicht außer Kontrolle geraten und Wege einschlagen, die weit von der Ehrlichkeit entfernt sind. Betrachten Sie nur Fälle, in denen kompromittierende Videomaterialien ohne die Zustimmung der darin vorkommenden Personen erstellt werden. Virtuelle "Klone" von Politikern, die schockierende Aussagen machen, die nie getätigt wurden, oder gefälschte Aufforderungen zu Banküberweisungen vom "Chef" – das sind die dunklen Seiten dieser Technologie. Wenn Deepfake zu einem Werkzeug für Betrug, Desinformation oder Rufschädigung wird, überschreitet es die Grenze nicht nur der Moral, sondern auch des Gesetzes.

Was sind die Konsequenzen der Erstellung von Deepfakes?

Verschiedene rechtliche Konsequenzen drohen bei der illegalen Nutzung der Deepfake-Technologie. Wenn Deepfakes verwendet werden, um falsche Beweise in Gerichtsverfahren zu erstellen, kann die verantwortliche Person rechtliche Konsequenzen tragen, einschließlich Anklagen wegen Urkundenfälschung. In Fällen, in denen Deepfakes verwendet werden, um Personen zu diffamieren oder zu erpressen, können Täter wegen Verletzung der Privatsphäre angeklagt werden, was zu hohen Geldstrafen oder Gefängnis führen kann. Es ist auch wichtig zu wissen, dass nicht nur das Erstellen, sondern auch das Verbreiten von Deepfake-Materialien, die das Image öffentlicher Personen verletzen, zu Zivilklagen führen kann, bei denen Opfer Entschädigung fordern können. Interessanterweise werden in der Europäischen Union bereits zahlreiche Initiativen unternommen, um Desinformation zu bekämpfen, einschließlich der Regulierung der Verwendung von Deepfake-Technologie, insbesondere im Zusammenhang mit Wahlen oder Politik.

Wie erkennt man Deepfakes?

Dies kann manchmal eine sprichwörtlich harte Nuss sein, denn das Erkennen des Einsatzes von Deepfake-Technologie erfordert wirklich Wachsamkeit und Beobachtungsgabe. Achten Sie auf unnatürliche Gesichtsbewegungen, die zu starr oder unbeholfen erscheinen können. Gesichtsausdrücke passen manchmal nicht ganz zum emotionalen Kontext der Situation, und Mundbewegungen können inkonsistent mit den gesprochenen Worten sein. Künstliche Intelligenz findet es besonders schwierig, Details wie Blinzeln oder Augenbewegungen zu reproduzieren, die unrealistisch erscheinen können.

Bleiben Sie auch wachsam gegenüber unnatürlicher Beleuchtung – Schatten im Gesicht oder seine Textur können seltsam aussehen, als ob sie nicht Teil des gesamten Bildes wären. Der Ton ist ein weiteres wichtiges Element – wenn die Stimme nicht perfekt zum Bild passt, mechanisch klingt oder keine natürliche Intonation widerspiegelt, kann dies ein Zeichen dafür sein, dass wir es mit Manipulation zu tun haben.

Fragen Sie sich beim Betrachten von Material, ob das, was Sie sehen, in einem technischen und emotionalen Kontext glaubwürdig erscheint. Selbst die fortschrittlichsten Deepfakes können subtile "Spuren" hinterlassen – in Form kleiner Fehler, die Menschen erkennen können. Wenn Sie immer noch Zweifel haben, greifen Sie auf verfügbare Verifizierungswerkzeuge zurück, die Videoinhalte auf Unregelmäßigkeiten analysieren, wie Microsoft Video Authenticator, den wir weiter unten noch erwähnen werden. Es lohnt sich auch, auf die Quelle des Materials zu achten – wenn es von einer unzuverlässigen oder anonymen Plattform stammt, steigt das Risiko der Manipulation.

Deepfake-Technologie – wie kann man sie kreativ nutzen?

Die Deepfake-Technologie, obwohl hauptsächlich mit Manipulation und Bedrohungen assoziiert, birgt enormes Potenzial. Stellen Sie sich eine Ausstellung in einer Galerie vor, wo Vincent van Gogh über seine Gemälde spricht und uns hinter dem Rahmen seines Selbstporträts anschaut. Oder eine Dokumentation, in der Königin Elizabeth I. zu zeitgenössischen Briten spricht, als ob die Zeit keine Rolle mehr spielte. Selbst das Marketing würde ein völlig neues Gesicht bekommen – Filmstars, die zum Kauf von Produkten auf eine so personalisierte Weise ermutigen, dass Sie das Gefühl haben, sie sprechen nur zu Ihnen. Deepfake könnte, anstatt ein Werkzeug des Chaos zu sein, der Schlüssel zu einer neuen Ära der visuellen Erzählung werden, wenn wir es nur klug und vielleicht mit ein bisschen Herz einsetzen.

Wie schützt man sich vor Deepfakes?

Zunächst einmal lohnt es sich, mit den Grundlagen zu beginnen: So wie ein Passwortgenerator dabei hilft, starke, einzigartige Passwörter zu erstellen, die es schwer machen, in unsere Konten einzubrechen, müssen wir im Fall von Deepfakes für die Sicherung unseres Images und unserer Daten sorgen. Eine Möglichkeit besteht darin, vorsichtig zu sein, wenn man Fotos und Videos im Internet teilt. Je mehr Materialien, die zur Erstellung eines Deepfakes verwendet werden können, desto größer ist das Risiko, dass jemand unsere Daten für Manipulationen nutzen könnte. Indem wir den Zugriff auf unsere Fotos und Videos sowohl in sozialen Medien als auch auf anderen Plattformen einschränken, können wir die Möglichkeit ihrer unbefugten Nutzung reduzieren. Heute ist es nicht schwer, das Social-Media-Konto einer Person zu übernehmen, daher lohnt es sich, zusätzliche Sicherheitsmaßnahmen wie Yubikey-Schlüssel zu verwenden. Es lohnt sich auch, Programme wie Sensity zu betrachten, die zum Erkennen von Gesichtsaustausch oder zum Erkennen manipulierter Audio- und KI-generierter Bilder verwendet werden können. Der Technologieriese aus Redmond beteiligt sich ebenfalls am Kampf gegen die Erkennung künstlich verarbeiteter Materialien. Microsoft Video Authenticator unterstützt Bemühungen gegen Desinformation, indem es Fotos und Videos auf subtile Änderungen analysiert, die durch künstliche Intelligenz eingeführt wurden und für das menschliche Auge unsichtbar sind.

Schauen Sie sich auch einen beliebten Blogbeitrag auf Sapsan an, in dem wir erklären, worum es bei Cybersicherheit geht.