Deepfake – jak rozpoznać, jak uniknąć i jak wykorzystać

Na czym polega deepfake? Wyobraź sobie, że widzisz film, na którym Twój ulubiony aktor przekazuje Ci osobiste pozdrowienia. Albo nagranie, na którym polityk przyznaje się do rzeczy, które nigdy się nie wydarzyły. Brzmi jak magia? Nie, to właśnie technologia deepfake, która potrafi oszukać nawet najbardziej bystre oko. W tym artykule pokażemy Ci jednak, jak rozpoznać deepfake, jak unikać związanych z nim zagrożeń oraz jak kreatywnie wykorzystać jego potencjał. Gotów, aby poznać fascynujące, a czasem jednak dość niepokojące fakty w temacie deepfake i AI? Zapraszamy do lektury.

Deepfake – co to?  

Aby lepiej zrozumieć, co to jest deepfake, wyobraź sobie zaawansowaną technologię, która potrafi przenieść twarz jednej osoby na ciało innej, zmieniać głosy lub tworzyć zupełnie nowe, realistyczne obrazy i filmy. Wszystko to możliwe jest dzięki sztucznej inteligencji (AI) i metodom głębokiego uczenia się (ang. deep learning). Algorytmy te analizują ogromne ilości danych, takich jak zdjęcia, nagrania wideo czy głos, i uczą się naśladować ludzkie zachowania z niezwykłą precyzją. Deepfake bazuje na modelach generatywnych, takich jak GAN-y (ang. Generative Adversarial Networks). GAN to system dwóch algorytmów – jeden z nich tworzy fałszywe treści, a drugi próbuje je rozpoznać. Dzięki tej „rywalizacji” deepfake staje się coraz bardziej realistyczny, ponieważ generator doskonali się w oszukiwaniu detektora. W efekcie otrzymujemy obrazy lub filmy, które trudno odróżnić od prawdziwych. Poczułeś się zachęcony, aby bardziej zgłębić ten temat? Cały rozdział poświęcony deepfake’om znajdziesz w książce Socjotechnika okiem detektywa – atak i obrona. Dawida Kuciela. 

Deepfake – przykłady

Jeśli algorytm „nauczy się” Twojej twarzy na podstawie zdjęć z mediów społecznościowych, może wykorzystać te dane, aby wstawić Twoją twarz do filmiku, w którym nigdy nie brałeś udziału. Co więcej, technologia deepfake pozwala na manipulację głosem, co oznacza, że można stworzyć nagranie, na którym mówisz coś, czego nigdy nie powiedziałeś!

Doskonały przykład deepfake zobaczysz na Youtubie w filmiku Simon Cowell Show Incredible Voice on AGT, gdzie technologia ta została zaprezentowana w rozrywkowym i humorystycznym kontekście w programie America's Got Talent (AGT). W tym materiale przedstawiono deepfake, który niejako zamienia znanego jurora Simona Cowella w śpiewającego artystę! Film jest doskonałym przykładem, jak deepfake może dostarczać rozrywki, jednocześnie pokazując, jak realistyczne mogą być efekty wizualne i dźwiękowe generowane przez sztuczną inteligencję.

Deepfake – jak zrobić? 

Tworzenie deepfake jest technicznie możliwe dla osób, które mają dostęp do odpowiedniego:

• oprogramowania, 

• sprzętu 

• i oczywiście potrzebnych danych. 

Niemniej jednak należy pamiętać, że tworzenie deepfake'ów w nieetycznych lub nielegalnych celach, takich jak oszustwa, naruszanie prywatności czy rozpowszechnianie fałszywych informacji, jest niezgodne z prawem i może prowadzić do poważnych konsekwencji prawnych, co szerzej omawiamy w dalszej części tego wpisu. 

Jeśli jednak interesuje Cię to, jak zrobić deepfake w celach czysto:

• edukacyjnych, 

• badawczych 

• lub artystycznych, 

to najpierw musisz wykorzystać odpowiednie narzędzia. Umożliwią Ci one manipulację obrazami i dźwiękiem w sposób, który sprawia, że twarze lub postacie wyglądają i zachowują się w sposób wprawdzie wciąż nieco nienaturalny, ale realistyczny. Cały proces wymaga podjęcia kilku ważnych kroków i posiadania odpowiedniego sprzętu.

Na początek, potrzebne są wysokiej jakości dane wejściowe – wideo lub zdjęcia osoby, której twarz ma zostać „przejęta”. Algorytmy używane do tworzenia deepfake'a analizują te materiały, aby nauczyć się szczegółów twarzy, takich jak kształt oczu, ust, ruchy mięśni twarzy i mimika. Następnie, przy pomocy algorytmów takich jak Generative Adversarial Networks (GANs) lub autoencoders, twarz osoby wstawianej do wideo jest zmieniana tak, aby wyglądała i poruszała się zgodnie z wideo bazowym. Używa się przy tym olbrzymich zbiorów danych w celu nauki naśladowania detali mimiki oraz zachowań ciała.

Poza tym, do stworzenia deepfake'a potrzebny jest odpowiedni sprzęt komputerowy – najczęściej komputery z wysokiej klasy kartami graficznymi (GPU), które umożliwiają przetwarzanie dużych ilości danych w krótkim czasie. Ponadto niezbędny będzie odpowiedni program i oprogramowanie, takie jak przykładowo DeepFaceLab, Faceswap lub Reface, które udostępniają gotowe narzędzia do tworzenia i edytowania wideo. Możesz też poszukać w sieci stron np. po frazie free deepfake generator. Jedną z nich jest np. hoodem.com. 

Ważnym aspektem będzie także przetwarzanie dźwięku, ponieważ deepfake video często zawiera audio. Wymaga to synchronizacji dźwięku z ruchem ust twarzy, co może być trudne, gdyż deepfake może wykraczać poza prostą manipulację obrazem. Dźwięk można edytować za pomocą technologii syntezatorów mowy, które dostosowują głos do wybranego materiału Jeśli chodzi o generatory głosu deepfake online, to w sieci znajdziesz strony tj. np. Speechify, czy Wavel AI. 

 Czy deepfake jest legalny?

Legalność deepfake’ów sprowadza się więc do jednej bardzo istotnej kwestii: celu i kontekstu jego wykorzystania. Jeśli jest to sztuka, eksperymenty technologiczne czy zabawa w granicach rozsądku, to nie ma w tym nic złego. Ale jeśli narzędzie staje się bronią, która uderza w ludzką prywatność, godność czy bezpieczeństwo, wówczas wkraczamy w obszar sankcji, procesów sądowych i społecznego potępienia. Jak z każdym wynalazkiem – wszystko zależy od tego, kto i dlaczego trzyma stery. Deepfake łatwo może wymknąć się spod kontroli i trafić na ścieżki dalekie od uczciwości. Wystarczy spojrzeć na przypadki tworzenia kompromitujących materiałów wideo bez zgody osób, które na nich występują. Wirtualne „klony” polityków wygłaszających szokujące wypowiedzi, które nigdy nie padły, czy fałszywe wezwania do przelewów bankowych od „szefa” – to mroczna strona tej technologii. Gdy deepfake staje się narzędziem do oszustw, dezinformacji, czy niszczenia reputacji, przekracza granicę nie tylko moralności, ale też prawa. 

Co grozi za deepfake?

Za nielegalne wykorzystanie technologii deepfake grożą różne konsekwencje prawne. Jeśli deepfake jest wykorzystywane do stworzenia fałszywych dowodów w sprawach sądowych, osoba odpowiedzialna może ponieść konsekwencje prawne, w tym oskarżenia o fałszowanie dokumentów. W przypadku wykorzystania deepfake w celu zniesławienia lub szantażowania osób sprawcy mogą zostać oskarżeni o naruszenie prywatności, co może skutkować wysokimi grzywnami lub więzieniem. Warto też zdawać sobie sprawę, że nie tylko tworzenie, ale i rozpowszechnianie materiałów deepfake, które naruszają wizerunek osób publicznych, może prowadzić do pozwów cywilnych, gdzie osoby poszkodowane mogą domagać się odszkodowania. Co ciekawe, w Unii Europejskiej podejmowane są już liczne inicjatywy mające na celu przeciwdziałanie dezinformacji, w tym regulowanie wykorzystania technologii deepfake, zwłaszcza w kontekście wyborów czy polityki.

Jak rozpoznać deepfake?  

To czasem przysłowiowy trudny orzech, bo rozpoznawanie zastosowania technologii deepfake naprawdę wymaga czujności i spostrzegawczości. Zwracaj uwagę na nienaturalne ruchy twarzy, które mogą wydawać się zbyt sztywne lub niezgrabne. Mimika czasem nie do końca pasuje do kontekstu emocjonalnego sytuacji, a ruchy ust mogą być niespójne z wypowiadanymi słowami. Szczególnie trudno sztucznej inteligencji odtworzyć takie detale, jak mruganie czy ruchy oczu, które mogą wydawać się nierealistyczne.

Zachowaj też czujność wobec nienaturalnego oświetlenia – cienie na twarzy lub jej tekstura mogą wyglądać dziwnie, jakby nie były częścią całości obrazu. Dźwięk jest kolejnym ważnym elementem – jeśli głos nie pasuje idealnie do obrazu, brzmi mechanicznie lub nie oddaje naturalnej intonacji, może to być znak, że mamy do czynienia z manipulacją.

Kiedy oglądasz materiał, zadaj sobie pytanie, czy to, co widzisz, wydaje się wiarygodne w kontekście technicznym i emocjonalnym. Nawet najbardziej zaawansowane deepfake mogą pozostawiać subtelne „ślady” – w postaci małych błędów, które człowiek potrafi wychwycić. Jeśli nadal masz wątpliwości, sięgnij po dostępne narzędzia weryfikacyjne, które analizują treści wideo pod kątem nieprawidłowości, takich jak Microsoft Video Authenticator, o którym jeszcze wspomnimy niżej. Warto także zwracać uwagę na źródło materiału – jeśli pochodzi z mało wiarygodnej lub anonimowej platformy, ryzyko manipulacji wzrasta.

Technologia deepfake – jak wykorzystać ją w kreatywny sposób?

Technologia deepfake, choć kojarzy się głównie z manipulacją i zagrożeniami, kryje w sobie ogromny potencjał. Wyobraźmy sobie wystawę w galerii, gdzie Vincent van Gogh opowiada o swoich obrazach, spoglądając na nas zza ramy swojego autoportretu. Albo film dokumentalny, w którym Królowa Elżbieta I przemawia do współczesnych Brytyjczyków, jakby czas przestał mieć znaczenie. Nawet marketing zyskałby zupełnie nowe oblicze – gwiazdy kina zachęcające do zakupu produktów w tak spersonalizowany sposób, że poczujesz, jakby mówiły tylko do Ciebie. Deepfake, zamiast być narzędziem chaosu, mógłby stać się kluczem do nowej ery narracji wizualnej, jeśli tylko użyjemy go z głową, a może i odrobiną serca.

Jak się chronić przed deepfake’ami?

Przede wszystkim, warto zacząć od podstaw: tak jak generator haseł pomaga stworzyć silne, unikalne hasła, które utrudniają złamanie naszych kont, tak w przypadku deepfake należy zadbać o zabezpieczenie swojego wizerunku i danych. Jednym ze sposobów jest zachowanie ostrożności przy udostępnianiu zdjęć i filmów w Internecie. Im więcej materiałów, które mogą być wykorzystane do stworzenia deepfake'a, tym większe ryzyko, że ktoś może wykorzystać nasze dane do manipulacji. Ograniczając dostęp do swoich zdjęć i filmów, zarówno w mediach społecznościowych, jak i na innych platformach, możemy zmniejszyć możliwość ich nieautoryzowanego użycia. Dziś nie jest trudno przejąć czyjeś konto w mediach społecznościowych, warto więc stosować dodatkowe zabezpieczenia tj. chociażby klucze Yubikey. Warto też zainteresować się programami tj. Sensity, który można wykorzystać do wykrycia podmiany twarzy albo np. wyłapania zmanipulowanego audio i zdjęć wygenerowanych przez AI. Do walki z wykrywaniem sztucznie przetworzonych materiałów włącza się także technologiczny gigant z Redmond. Microsoft Video Authenticator wspiera działania przeciwko dezinformacji, analizując zdjęcia i filmy w poszukiwaniu subtelnych zmian wprowadzonych przez sztuczną inteligencję, niewidocznych dla ludzkiego oka.

Sprawdź też popularny wpis na blogu Sapsan, w którym tłumaczymy, na czym polega cyberbezpieczeństwo.