VIDEO: Dokonalé deepfake. Falešný Zuckerberg i Melanie s tváří Putina straší svět
Vzestup fake videí
VIDEA UVNITŘ
REPROFOTO: Youtube / TheFakening
Šéf sociální sítě Facebook Mark Zuckerberg se ve videu na Instagramu pochlubil „totální kontrolou nad ukradenými údaji miliard lidí“. Zlověstný klip byl ale společným dílem umělců Billa Posterse, Daniela Howea a reklamní agentury Canny, kteří tím chtěli varovat před stále sílící manipulací v digitálním prostoru i před samotnou technologií deepfake, s jejíž pomocí video vytvořili. Ta totiž dovoluje simulovat mimiku i mluvu libovolné osoby a vkládat do úst vlastní slova. Nebezpečnému fenoménu se věnujeme i v aktuálním vydání Týdeníku Echo.
„Na vteřinu si představte tohle: Jeden muž s totální kontrolou nad ukradenými údaji miliard lidí. Všechna jejich tajemství, jejich životy, jejich budoucnost… ten, kdo ovládá data, ovládá budoucnost,“ říká v autenticky vyhlížejícím videu Zuckerberg. Autoři takto softwarově upravili úryvek z vysílání televize CBS News z roku 2017, kdy šéf Facebooku promlouval k médiím o zneužití jeho platformy ruskými subjekty ve snaze ovlivnit americké prezidentské volby.
Jeden z autorů řekl deníku The Guardian, že nové video bylo zamýšleno jako komentář současné praxe technologických firem. „Skutečnost, že data občanů, včetně podrobných poznatků o jejich politickém zaměření, sexualitě, povahových rysech a osobnosti, jsou zpřístupňována zájemcům s nejvyšší nabídkou, ukazuje, že průmysl digitálního ovlivňování a s ním spojené mechanismy představují hrozbu nejen pro práva jednotlivců, ale také pro naše demokratická zřízení,“ citoval list Posterse.
Falešné video mělo v době psaní článku na kontě necelých 100 tisíc zobrazení. Společnost Facebook, pod kterou Instagram spadá, se sice snaží s podobnými příspěvky bojovat, tento konkrétní ale neplánuje smazat. „Naložíme s tímto obsahem stejně, jako nakládáme se všemi dezinformacemi na Instagramu. Jestliže jej nezávislí ověřovatelé informací označí za falešné, odfiltrujeme jej z doporučovacích rozhraní jako jsou Návrhy a přehled hashtagů,“ sdělil médiím mluvčí Facebooku. Situaci by ale mohl zkomplikovat požadavek vysílací společnosti CBS, která se domáhá stažení videa kvůli „podvodnému a nepovolenému užití obchodní značky CBSN“.
Internet se baví, odborníci varují před manipulacemi
Právě přístup Facebooku k podobnému potenciálně škodlivému obsahu má sehrát zásadní roli v boji proti fake news. Vedle internetových diskuzních portálů jako Reddit či 4chan se deepfake videa šíří nejrychleji skrze sociální sítě a mobilní messengery. „Video (s Zuckerbergem) mělo méně než 5000 zhlédnutí, než na něj začala upozorňovat média, ale to, jak s ním Facebook naloží, by mohlo vytvořit precedent pro jeho postup vůči budoucím deepfake videím,“ uvedla televize CNN v reakci na instagramový klip.
Odborník na bezpečnost Clint Watts z Výzkumného ústavu pro zahraniční politiku vystoupil kvůli videu před americkými poslanci s varováním, že podobná videa mohou eskalovat až v násilné nepokoje. Poukázal zároveň na sílu „klasických“ falešných zpráv sdílených skrze aplikaci WhatsApp, které rozpoutaly násilnosti v Indii. „Rozšířením deepfake videí se zvýší počet i intenzita těchto nepokojů,“ dodal Watts.
Skutečnost, že Facebook neplánuje video odstranit, ale pouze „skrýt“ z různých kanálů a zhoršit mu rating pro vyhledávání, se setkalo se smíšenými reakcemi. Zatímco experti hovoří o nezodpovědnosti rychle řešit fenomén, s jehož odhalováním a ověřováním mají potíže i moderní analytické nástroje, část internetových diskutérů s obsahem nemá problém, pokud sami autoři upozorní, že jde o falešné video.
Nebo pokud jde o humorné videomontáže. Díky jejich popularitě i samotné dostupnosti deepfake aplikací jich denně přibývají desítky. Některé si dělají srandu z politiků, jiné nahrazují tváře všech herců za Nicolase Cage. Jelikož jsou tato deepfake videa prozatím klasifikována jako parodie, i zde jsou bezpečnostní odborníci na pozoru. Jednak kvůli tomu, jak lehce je technologie zneužitelná i na nepolitické úrovni (např. falešná sexuální nahrávka, která rozpoutá rodinnou roztržku), jednak kvůli samotné dostupnosti a relativní jednoduchosti technologie, díky které z „dnešních vtipálků mohou vyrůst zítřejší dezinformátoři“.
