Deepfake – jak rozpoznat, jak se vyhnout a jak využít

Co je deepfake? Představte si, že vidíte video, ve kterém vám váš oblíbený herec posílá osobní pozdrav. Nebo nahrávku, kde politik přiznává věci, které se nikdy nestaly. Zní to jako kouzlo? Ne, to je technologie deepfake, která dokáže oklamat i to nejbystřejší oko. V tomto článku vám ukážeme, jak rozpoznat deepfake, jak se vyhnout souvisejícím hrozbám a jak kreativně využít jeho potenciál. Jste připraveni dozvědět se fascinující, a někdy docela znepokojivá fakta o deepfake a umělé inteligenci? Pojďme do toho.

Deepfake – co to je?

Aby bylo snazší pochopit, co je to deepfake, představte si pokročilou technologii, která dokáže přenést obličej jedné osoby na tělo jiné, měnit hlasy nebo vytvářet zcela nové, realistické obrázky a videa. To vše je možné díky umělé inteligenci (AI) a metodám hlubokého učení (deep learning). Tyto algoritmy analyzují obrovské množství dat, jako jsou fotografie, video nahrávky nebo hlas, a učí se napodobovat lidské chování s pozoruhodnou přesností. Deepfake je založen na generativních modelech, jako jsou GANs (Generative Adversarial Networks). GAN je systém dvou algoritmů – jeden vytváří falešný obsah a druhý se jej snaží rozpoznat. Díky této "soutěži" se deepfake stává stále realističtějším, protože generátor se zdokonaluje v klamání detektoru. Výsledkem jsou obrázky nebo videa, která je těžké rozlišit od skutečných. Cítíte se povzbuzeni prozkoumat toto téma hlouběji? Celou kapitolu věnovanou deepfakům najdete v knize Sociotechnika očima detektiva - útok a obrana od Dawida Kuciela.

Deepfake – příklady

Pokud se algoritmus "naučí" váš obličej z fotografií na sociálních sítích, může tato data použít k vložení vašeho obličeje do videa, kterého jste se nikdy nezúčastnili. Navíc technologie deepfake umožňuje manipulaci s hlasem, což znamená, že někdo může vytvořit nahrávku, kde říkáte něco, co jste nikdy neřekli!

Dokonalý příklad deepfake můžete vidět na YouTube ve videu Simon Cowell Show Incredible Voice on AGT, kde byla tato technologie prezentována v zábavném a humorném kontextu v America's Got Talent (AGT). Materiál ukazuje deepfake, který zdánlivě transformuje známého porotce Simona Cowella ve zpívajícího umělce! Video je vynikajícím příkladem toho, jak mohou deepfaky poskytovat zábavu a zároveň demonstrovat, jak realistické mohou být vizuální a zvukové efekty generované umělou inteligencí.

Deepfake – jak ho vytvořit?

Vytváření deepfaků je technicky možné pro lidi, kteří mají přístup k vhodnému:

• softwaru,

• hardwaru

• a samozřejmě k nezbytným datům.

Je však důležité mít na paměti, že vytváření deepfaků pro neetické nebo nezákonné účely, jako je podvod, porušování soukromí nebo šíření falešných informací, je proti zákonu a může vést k vážným právním důsledkům, o čemž se více zmíníme dále v tomto příspěvku.

Pokud vás však zajímá, jak vytvořit deepfake pro čistě:

• vzdělávací,

• výzkumné

• nebo umělecké účely,

pak musíte nejprve použít správné nástroje. Ty vám umožní manipulovat s obrázky a zvukem způsobem, který způsobí, že obličeje nebo postavy vypadají a chovají se způsobem, který je sice stále trochu nepřirozený, ale realistický. Celý proces vyžaduje několik důležitých kroků a vhodné vybavení.

Pro začátek potřebujete vysoce kvalitní vstupní data – videa nebo fotografie osoby, jejíž obličej má být "převzat". Algoritmy používané k vytváření deepfaků analyzují tyto materiály, aby se naučily detaily obličeje, jako je tvar očí, úst, pohyby obličejových svalů a výrazy. Poté, pomocí algoritmů jako Generative Adversarial Networks (GANs) nebo autoencoderů, je obličej osoby vkládané do videa změněn tak, aby vypadal a pohyboval se podle základního videa. K učení napodobování detailů obličeje a pohybů těla se používají obrovské datové soubory.

Kromě toho potřebujete k vytvoření deepfaku vhodný počítačový hardware – obvykle počítače s vysoce výkonnými grafickými kartami (GPU), které umožňují zpracování velkého množství dat v krátkém čase. Budete také potřebovat správné programy a software, jako je DeepFaceLab, Faceswap nebo Reface, které poskytují hotové nástroje pro vytváření a úpravu videí. Můžete také hledat stránky online s frázemi jako bezplatný deepfake generátor. Jedním z příkladů je hoodem.com.

Důležitým aspektem bude také zpracování zvuku, protože deepfake videa často obsahují audio. To vyžaduje synchronizaci zvuku s pohyby úst obličeje, což může být obtížné, protože deepfake může přesahovat jednoduchou manipulaci s obrazem. Zvuk lze upravovat pomocí technologií syntezátorů řeči, které přizpůsobují hlas vybranému materiálu. Pokud jde o online generátory deepfake hlasu, můžete najít webové stránky jako Speechify nebo Wavel AI.

Je deepfake legální?

Legalita deepfaků se tedy zužuje na jednu velmi důležitou otázku: účel a kontext jejich použití. Pokud jde o umění, technologické experimenty nebo zábavu v rozumných mezích, není na tom nic špatného. Pokud se však nástroj stane zbraní, která útočí na lidské soukromí, důstojnost nebo bezpečnost, pak vstupujeme do oblasti sankcí, soudních sporů a společenského odsouzení. Jako u každého vynálezu – vše závisí na tom, kdo je u kormidla a proč. Deepfaky se mohou snadno vymknout kontrole a vydat se cestami daleko od poctivosti. Stačí se podívat na případy, kdy jsou vytvářeny kompromitující video materiály bez souhlasu osob, které v nich vystupují. Virtuální "klony" politiků pronášejících šokující výroky, které nikdy nepadly, nebo falešné výzvy k bankovním převodům od "šéfa" – to jsou temné stránky této technologie. Když se deepfake stane nástrojem pro podvody, dezinformace nebo poškození pověsti, překračuje hranici nejen morálky, ale i zákona.

Jaké jsou důsledky vytváření deepfaků?

Nelegální využití technologie deepfake hrozí různými právními důsledky. Pokud jsou deepfaky používány k vytváření falešných důkazů v soudních případech, může odpovědná osoba čelit právním důsledkům, včetně obvinění z padělání dokumentů. V případech, kdy jsou deepfaky používány k pomluvě nebo vydírání lidí, mohou být pachatelé obviněni z porušení soukromí, což může vést k vysokým pokutám nebo uvěznění. Je také důležité si uvědomit, že nejen vytváření, ale i šíření deepfake materiálů, které narušují image veřejných osob, může vést k občanskoprávním žalobám, kde oběti mohou požadovat odškodnění. Je zajímavé, že v Evropské unii je již podnikáno mnoho iniciativ v boji proti dezinformacím, včetně regulace používání technologie deepfake, zejména v souvislosti s volbami nebo politikou.

Jak rozpoznat deepfake?

To může být někdy příslovečný tvrdý oříšek, protože rozpoznání použití technologie deepfake skutečně vyžaduje ostražitost a pozorovací schopnosti. Věnujte pozornost nepřirozeným pohybům obličeje, které mohou působit příliš strnule nebo neobratně. Mimika někdy úplně neodpovídá emocionálnímu kontextu situace a pohyby úst mohou být v rozporu s vyslovenými slovy. Pro umělou inteligenci je obzvláště obtížné reprodukovat detaily, jako je mrkání nebo pohyby očí, které mohou vypadat nerealisticky.

Buďte také ostražití vůči nepřirozenému osvětlení – stíny na obličeji nebo jeho textura mohou vypadat divně, jako by nebyly součástí celého obrazu. Zvuk je dalším důležitým prvkem – pokud hlas dokonale neodpovídá obrazu, zní mechanicky nebo neodráží přirozenou intonaci, může to být známka toho, že máme co do činění s manipulací.

Při sledování materiálu se ptejte sami sebe, zda to, co vidíte, vypadá věrohodně v technickém a emocionálním kontextu. I ty nejpokročilejší deepfaky mohou zanechat jemné "stopy" – v podobě malých chyb, které lidé dokážou odhalit. Pokud stále máte pochybnosti, sáhněte po dostupných ověřovacích nástrojích, které analyzují video obsah pro zjištění nesrovnalostí, jako je Microsoft Video Authenticator, o kterém se ještě zmíníme níže. Stojí také za to věnovat pozornost zdroji materiálu – pokud pochází z nespolehlivé nebo anonymní platformy, riziko manipulace se zvyšuje.

Technologie deepfake – jak ji kreativně využít?

Technologie deepfake, ačkoli je především spojována s manipulací a hrozbami, v sobě skrývá obrovský potenciál. Představte si výstavu v galerii, kde Vincent van Gogh mluví o svých obrazech a dívá se na nás zpoza rámu svého autoportrétu. Nebo dokument, ve kterém královna Alžběta I. promlouvá k současným Britům, jako by čas přestal být důležitý. I marketing by získal zcela novou tvář – filmové hvězdy pobízející k nákupu produktů tak personalizovaným způsobem, že máte pocit, jako by mluvily jen k vám. Deepfake by se místo nástroje chaosu mohl stát klíčem k nové éře vizuálního vyprávění, pokud ho jen použijeme moudře a možná s trochou srdce.

Jak se chránit před deepfaky?

Za prvé, stojí za to začít základy: stejně jako generátor hesel pomáhá vytvářet silná, jedinečná hesla, která ztěžují prolomení našich účtů, v případě deepfake musíme dbát na zabezpečení našeho obrazu a dat. Jedním ze způsobů je opatrnost při sdílení fotografií a videí na internetu. Čím více materiálů, které mohou být použity k vytvoření deepfaku, tím větší je riziko, že někdo může využít naše data k manipulaci. Omezením přístupu k našim fotografiím a videím, jak na sociálních médiích, tak na jiných platformách, můžeme snížit možnost jejich neoprávněného použití. Dnes není těžké převzít něčí účet na sociálních médiích, proto stojí za to používat dodatečné zabezpečení, jako jsou Yubikey klíče. Stojí také za to podívat se na programy jako Sensity, které lze použít k detekci výměny obličeje nebo k zachycení manipulovaného zvuku a obrázků generovaných umělou inteligencí. Do boje s detekcí uměle zpracovaných materiálů se zapojuje i technologický gigant z Redmondu. Microsoft Video Authenticator podporuje úsilí proti dezinformacím analýzou fotografií a videí pro jemné změny zavedené umělou inteligencí, neviditelné pro lidské oko.

Podívejte se také na populární blogový příspěvek na Sapsanu, kde vysvětlujeme, o co jde v kybernetické bezpečnosti.