Rychlý přístup:

Přeskočit přímo k obsahu (Alt 1) Přeskočit přímo k hlavní navigaci (Alt 2)

Pravda a lži
Ještě hlubší než fake

Deep Fake
Ilustrace: © Martina Hamouzová

Falešné zprávy dostávají postupně nový a dokonalejší rozměr. Od smyšlených informací a konspiračních teorií, přes upravené fotografie až po videa, kde významný politik věrohodně pronáší to, co ve skutečnosti nikdy neřekl. Po fake news přjde fáze „hlubokých lží” – deep fake.
 

Od: Robert Břešťan

Je jen otázkou času, kdy se upravená či zcela zfalšovaná videa českých politiků či jiných veřejně známých osob začnou šířit sociálními sítěmi a konspiračními weby i v České republice.
 
Na to, jak je díky novým technologiím stále snadnější manipulovat obsahem, upozornil v dubnu 2018 mezi prvními americký komik Jordan Peele.
 
Ten díky počítačovému programu doslova vložil svá ústa do tváře Baracka Obamy a „donutil“ jej tak věrohodně říkat to, co nikdy neřekl. Například se velmi nevybíravě vyjádřit o Donaldu Trumpovi.
 

 
Sám Jordan Peele na konci videa konstatuje, že žijeme v komplikovaných časech a obranou je čerpat informace z věrohodných zpravodajských zdrojů.
 
Téma poté převzala americká média a tak se i širší veřejnost mohla přesvědčit o tom, jak těžké je a bude odlišit realitu a záměrně upravené či speciálně vytvořená videa.

Rychle a zběsile

HlídacíPes.org o nové éře falešných informací mluvil s Thomasem Hansonem, někdejším americkým diplomatem, který nyní působí na Alworthově institutu mezinárodních vztahů Univerzity Minnesota – Duluth a tématu falešných zpráv se věnuje. Působil na diplomatických postech v někdejším Východním Německu, bývalém SSSR, v Norsku či Francii.
 
Fenomén deep fake se podle něj objevuje v posledních několika letech, ale výrazně zesílil od roku 2017. „Souvisí to obecně s rozmachem fake news, v americkém prostředí pak s tím, jak se potvrzuje ruský vliv na prezidentské volby v roce 2016,“ říká Hanson.
 
Oblast deep fake postupuje kupředu velmi rychle. Jak v oblasti vývoje, tak detekování těchto falešných výtvorů. „Ale obávám se, že jsme v situaci, kdy detekce nestíhá držet krok s rychlostí, jakou nástroje na vytváření deep fake vznikají,“ podotýká Hanson.
 
Svůj program boje proti těmto falešných informacím, které mají potenciál výrazně ovlivňovat nálady veřejnosti a vyvolávat neklid i zmatek a strach, už mají i některé vlády. V USA se tématem zabývá Defense Advanced Research Projects Agency (DARPA – Agentura ministerstva obrany pro pokročilé výzkumné projekty, která je zodpovědná za vývoj nových obranných technologií.
 
Na druhé straně existuje systém umělé inteligence GAN (Generative adversarial networks) umí generovat realisticky vypadající falešné fotografie, počítačové lidské tváře, které jsou k nerozeznání od reálných lidí. Tím pádem je může zobrazovat v jakýchkoli situacích a souvislostech.
 
„Nově lze takto vytvářet i realistická videa. Je extrémně těžké rozeznat, že jde o fake,“ zdůrazňuje Hanson.
 
„Je to skutečně velké téma. Obzvláště nebezpečné jsou tyto deep fake informace v době krizí a hrozeb, kdy dokážou ovlivnit veřejnou debatu a zcela překroutit realitu,“ dodává.

Zprávy z králičí nory

Důsledky mohou být dalekosáhlé. „Už nyní vidíme, jak se různým konspiračním teoriím a falešným zprávám daří ničit důvěru lidí v tradiční média. S deep fake to může být ještě mnohem horší. Ty dostávají fake news na úplně novou úroveň. Není to žádná hra, ani věc médií, internetu a sociálních sítí, je to už věc národní bezpečnosti,“ říká Hanson, podle nějž jde i o důvěru lidí v politiku jako takovou.
 
Řešením může být mezinárodní spolupráce, podobně jako už nyní vlády spolupracují v případě kybernetických útoků a kybernetické bezpečnosti.
 
„Vystopovat původ deep fake bude těžké, je to jako králičí nora, která je stále hlubší a hlubší a plná zatáček. Odhaduji, že to v následujících letech bude velké téma,“ říká Hanson. 
 
Značný problém ovšem představuje fakt, že falešná či k obrazu svému upravená videa mohou vycházet přímo z vládních zdrojů. A nejde jen o Rusko, které si metody hybridní války dokonale osvojilo.
 
V listopadu 2018 kupříkladu tisková mluvčí Bílého domu Sarah Sendersová sdílela na sociálních sítích video, kde se reportér CNN Jim Acosta na tiskové konferenci Donalda Trumpa brání tomu, aby mu zaměstnankyně Bílého domu odebrala mikrofon.
 
Video vypadalo autenticky, ve skutečnosti však bylo upraveno – zrychleno tak, že reakce novináře působila mnohem agresivnější, než jak to bylo ve skutečnosti. Video působí tak, že se novinář proti dámě prudce ohnal. Reálný záznam ukazuje to, jak Acosta pokusu o odnětí mikrofonu uhýbá. Ve videu vydaném mluvčí Sandersovou chybí i slovní reakce: „Omlouvám se, madam.“
 
Nikoli náhodou video jako první sdílel známý americký zastánce a šiřitel konspiračních teorií Paul Joseph Watson z krajně pravicového webu Infowars.
 
Video se začalo virálně šířit, během dvou dní získalo sedm milionů zhlédnutí.
 
Na videu agentury Associated Press způsob, jak bylo video upraveno, rozebírá nezávislý odborník na zpracování videa Abba Shapiro:
 


Například podle Jonathana Albrighta, ředitele výzkumu Tow Center for Digital Journalism Kolumbijské univerzity platí, že podobně upravená videa představují ještě větší riziko dalšího šíření dezinformací než videa kompletně zfalšovaná.
 
„Když je součástí upraveného či smyšleného obsahu i zrnko pravdy, roste pravděpodobnost, že lidé budou takové zprávě mnohém spíše věřit. I když je pravda natahována na skřipec, obsah působí reálně,“ citoval Albrighta americký deník Star Tribune.

Na vládní úrovni

Podle bývalého amerického diplomata Thomase Hansona jde „o skutečný jed, který budou šířit jak jednotlivci, tak některé vlády“.
 
Metodu, jak se fake news a o to více „deep fake“ bránit, naznačil již výše Jordan Peele – sledovat zdroje, z nichž informace vychází, ověřovat, být obezřetný. Problém je však v tom, že nachytat se mohou i jinak důvěryhodná média.
 
Opatrnost, skepse a nedůvěra k tomu, co čteme a vidíme v sobě ale skrývá další nebezpečí.
 
„Když se dostanete do situace, že budete pochybovat o všem, co vidíte a slyšíte, důvěra se úplně rozplyne. A my potřebujeme zachovat důvěru v média, v demokracii, v pravdu,“ říká Hanson.
 
Podle něj je nezvratné, že přichází nová fáze fake news spojená s technologickým vývojem. „Bude třeba to řešit nikoli individuálně, ale globálně, podobně jako se dnes již bojuje proti kybernetickým hrozbám,“ opakuje Hanson.