Deepfake – jak rozpoznat, jak se vyhnout a jak využít

Co je deepfake? Představte si, že vidíte video, ve kterém vám oblíbený herec posílá osobní pozdrav. Nebo nahrávku, kde politik přiznává činy, které se nikdy nestaly. Zní to jako kouzlo? Ne, to je technologie deepfake, která dokáže oklamat i to nejbystřejší oko. V tomto článku vám ukážeme, jak rozpoznat deepfake, jak se vyhnout souvisejícím hrozbám a jak kreativně využít jeho potenciál. Jste připraveni dozvědět se fascinující, a někdy docela znepokojivá fakta o deepfacích a umělé inteligenci? Pojďme do toho.

Deepfake – co to je?

Aby bylo snazší pochopit, co je to deepfake, představte si pokročilou technologii, která dokáže vložit tvář jedné osoby na tělo jiné, měnit hlasy nebo vytvářet zcela nové, realistické obrázky a videa. To vše je možné díky umělé inteligenci (AI) a metodám hlubokého učení (deep learning). Tyto algoritmy analyzují obrovské množství dat, jako jsou fotografie, videozáznamy nebo hlas, a učí se napodobovat lidské chování s pozoruhodnou přesností. Deepfake je založen na generativních modelech, jako jsou GANs (Generative Adversarial Networks). GAN je systém dvou algoritmů – jeden vytváří falešný obsah a druhý se jej snaží rozpoznat. Díky této "soutěži" se deepfake stává stále realističtějším, protože generátor se zdokonaluje v klamání detektoru. Výsledkem jsou obrázky nebo videa, která je těžké rozlišit od skutečných. Chcete toto téma prozkoumat podrobněji? Celou kapitolu věnovanou deepfakům najdete v knize Sociotechnika očima detektiva - útok a obrana od Dawida Kuciela.

Deepfake – příklady

Pokud se algoritmus "naučí" váš obličej z fotografií na sociálních sítích, může tato data použít k vložení vašeho obličeje do videa, v němž jste nikdy nevystupovali. Navíc technologie deepfake umožňuje manipulaci s hlasem, což znamená, že někdo může vytvořit nahrávku, kde říkáte něco, co jste nikdy neřekli!

Dokonalý příklad deepfake můžete vidět na YouTube ve videu Simon Cowell Show Incredible Voice on AGT, kde byla tato technologie prezentována v zábavném a humorném kontextu v America's Got Talent (AGT). Materiál ukazuje deepfake, který zdánlivě mění známého porotce Simona Cowella ve zpívajícího umělce! Video je vynikajícím příkladem toho, jak mohou deepfaky poskytovat zábavu a zároveň demonstrovat, jak realistické mohou být vizuální a zvukové efekty generované umělou inteligencí.

Deepfake – jak ho vytvořit?

Vytváření deepfaků je technicky možné pro lidi, kteří mají přístup k vhodnému:

• softwaru,

• hardwaru

• a samozřejmě k nezbytným datům.

Je však důležité mít na paměti, že vytváření deepfaků pro neetické nebo nezákonné účely, jako je podvod, porušování soukromí nebo šíření falešných informací, je proti zákonu a může vést k vážným právním důsledkům, kterým se podrobněji věnujeme dále v článku.

Pokud vás však zajímá, jak vytvořit deepfake pro čistě:

• vzdělávací,

• výzkumné

• nebo umělecké účely,

pak musíte nejprve použít správné nástroje. Ty vám umožní upravovat obraz a zvuk tak, aby tváře nebo postavy působily realisticky, přestože mohou stále vykazovat drobné nepřirozenosti. Celý proces vyžaduje několik důležitých kroků a vhodné vybavení.

Pro začátek potřebujete vysoce kvalitní vstupní data – videa nebo fotografie osoby, jejíž obličej má být "převzat". Algoritmy používané k vytváření deepfaků analyzují tyto materiály, aby se naučily detaily obličeje, jako je tvar očí, úst, pohyby obličejových svalů a výrazy. Poté, pomocí algoritmů jako Generative Adversarial Networks (GANs) nebo autoencoderů, je tvář osoby vkládané do videa změněn tak, aby vypadal a pohyboval se podle základního videa. K nácviku věrné reprodukce mimiky a pohybů těla se používají obrovské datové soubory.

Kromě toho potřebujete k vytvoření deepfaku vhodný počítačový hardware – obvykle počítače s vysoce výkonnými grafickými kartami (GPU), které umožňují zpracování velkého množství dat v krátkém čase. Budete také potřebovat vhodný software, jako je DeepFaceLab, Faceswap nebo Reface, které poskytují hotové nástroje pro vytváření a úpravu videí. Můžete také hledat online služby pomocí frází, jako je bezplatný generátor deepfaků. Jedním z příkladů je hoodem.com.

Důležitým aspektem bude také zpracování zvuku, protože deepfake videa často obsahují zvukovou stopu. To vyžaduje synchronizaci zvuku s pohyby rtů, což může být obtížné, protože deepfake může přesahovat jednoduchou manipulaci s obrazem. Zvuk lze upravovat pomocí technologie syntézy řeči, která přizpůsobuje hlas vybranému materiálu. Pokud jde o online generátory deepfake hlasu, můžete využít služby, jako jsou Speechify nebo Wavel AI.

Je deepfake legální?

Právní posouzení deepfaků závisí především na jedné zásadní okolnosti: účel a kontext jejich použití. Pokud jde o umění, technologické experimenty nebo zábavu v rozumných mezích, není na tom nic špatného. Pokud se však nástroj stane zbraní, která útočí na lidské soukromí, důstojnost nebo bezpečnost, mohou následovat sankce, soudní spory i společenské odsouzení. Jako u každého vynálezu – vše závisí na tom, kdo je u kormidla a proč. Deepfaky se mohou snadno vymknout kontrole a být zneužity. Stačí se podívat na případy, kdy jsou vytvářena kompromitující videa bez souhlasu osob, které v nich vystupují. Virtuální "klony" politiků pronášejících šokující výroky, které nikdy nepadly, nebo falešné pokyny k bankovním převodům od "šéfa" – to jsou temné stránky této technologie. Když se deepfake stane nástrojem pro podvody, dezinformace nebo poškození pověsti, překračuje hranici nejen morálky, ale i zákona.

Jaké jsou důsledky vytváření deepfaků?

Nelegální využití technologie deepfake hrozí různými právními důsledky. Pokud jsou deepfaky používány k vytváření falešných důkazů v soudních případech, může odpovědná osoba čelit právním důsledkům, včetně obvinění z padělání dokumentů. V případech, kdy jsou deepfaky používány k pomluvě nebo vydírání lidí, mohou být pachatelé obviněni z porušení soukromí, což může vést k vysokým pokutám nebo uvěznění. Je také důležité si uvědomit, že nejen vytváření, ale i šíření deepfake materiálů, které poškozují pověst veřejných osob, může vést k občanskoprávním žalobám, kde oběti mohou požadovat odškodnění. Je zajímavé, že v Evropské unii již vzniká řada iniciativ v boji proti dezinformacím, včetně regulace používání technologie deepfake, zejména v souvislosti s volbami nebo politikou.

Jak rozpoznat deepfake?

Odhalit deepfake může být obtížné a vyžaduje ostražitost a pozorovací schopnosti. Věnujte pozornost nepřirozeným pohybům obličeje, které mohou působit příliš strnule nebo trhaně. Mimika někdy úplně neodpovídá emocionálnímu kontextu situace a pohyby úst mohou být v rozporu s vyslovenými slovy. Pro umělou inteligenci je obzvláště obtížné reprodukovat detaily, jako je mrkání nebo pohyby očí, které mohou vypadat nerealisticky.

Buďte také ostražití vůči nepřirozenému osvětlení – stíny na obličeji nebo jeho textura mohou vypadat divně, jako by nebyly součástí celého obrazu. Zvuk je dalším důležitým prvkem – pokud hlas dokonale neodpovídá obrazu, zní mechanicky nebo neodráží přirozenou intonaci, může to být známka toho, že máme co do činění s manipulací.

Při sledování materiálu se ptejte sami sebe, zda to, co vidíte, vypadá věrohodně v technickém a emocionálním kontextu. I ty nejpokročilejší deepfaky mohou zanechat jemné "stopy" – v podobě malých chyb, které lidé dokážou odhalit. Pokud stále máte pochybnosti, sáhněte po dostupných ověřovacích nástrojích, které analyzují video a hledají nesrovnalosti, jako je Microsoft Video Authenticator, o kterém se ještě zmíníme níže. Stojí také za to věnovat pozornost zdroji materiálu – pokud pochází z nedůvěryhodné nebo anonymní platformy, riziko manipulace se zvyšuje.

Technologie deepfake – jak ji kreativně využít?

Technologie deepfake, ačkoli je především spojována s manipulací a hrozbami, v sobě skrývá obrovský potenciál. Představte si výstavu v galerii, kde Vincent van Gogh mluví o svých obrazech a dívá se na nás zpoza rámu svého autoportrétu. Nebo dokument, ve kterém královna Alžběta I. promlouvá k současným Britům, jako by čas přestal být důležitý. I marketing by získal zcela novou tvář – filmové hvězdy propagující produkty tak personalizovaným způsobem, že máte pocit, jako by mluvily jen k vám. Deepfake by se místo nástroje chaosu mohl stát klíčem k nové éře vizuálního vyprávění, pokud ho jen použijeme moudře a možná s trochou srdce.

Jak se chránit před deepfaky?

Za prvé, stojí za to začít základy: stejně jako generátor hesel pomáhá vytvářet silná, jedinečná hesla, která ztěžují napadení našich účtů, v případě deepfake musíme dbát na zabezpečení našeho obrazu a dat. Jedním ze způsobů je opatrnost při sdílení fotografií a videí na internetu. Čím více materiálů lze použít k vytvoření deepfaku, tím větší je riziko, že někdo může využít naše data k manipulaci. Omezením přístupu k našim fotografiím a videím, jak na sociálních médiích, tak na jiných platformách, můžeme snížit možnost jejich neoprávněného použití. Účet na sociálních sítích lze dnes převzít poměrně snadno, proto stojí za to používat dodatečné zabezpečení, jako jsou bezpečnostní klíče YubiKey. Stojí také za to vyzkoušet nástroje jako Sensity, které lze použít k detekci výměny obličeje nebo k zachycení manipulovaného zvuku a obrázků generovaných umělou inteligencí. Do vývoje nástrojů pro detekci uměle vytvořených materiálů se zapojuje i technologický gigant z Redmondu. Microsoft Video Authenticator podporuje úsilí proti dezinformacím analýzou fotografií a videí a hledáním jemných změn zavedené umělou inteligencí, neviditelné pro lidské oko.

Podívejte se také na oblíbený příspěvek na blogu SAPSAN, kde vysvětlujeme, o co jde v kybernetické bezpečnosti.