Některá současná „deepfake“ videa si na pravá ani nehrají a jejich cílem je nevinné pobavení publika, například stařičká britská královna si na BBC zatancovala pro Tiktok.
Foto: Channel4
1
Dosavadní republikánský kongresman Matt Gaetz oznámil, že již nebude usilovat o funkci ministra spravedlnosti, kterou mu nabídl zvolený americký prezident ...
„Věříš mně, nebo svým prolhaným očím?“ ptá se manželka chycená při nevěře svého šokovaného manžela. Vtip už je poněkud otřepaný, ale pro internet roku 2022 začíná nepříjemně připomínat realitu. Tomu, co se děje na obrazovce, lze totiž věřit čím dál míň.
Český výraz pro pojem „deepfake“ zatím nemáme, ale je nejvyšší čas jej vymyslet, protože tento fenomén nás určitě nemine. „Deepfake“ je částečně nebo totálně zfalšované video nebo audio – ale častěji video, protože lidé vždycky lépe reagují na video –, ve kterém se děje něco, co se v realitě nikdy nestalo. Celou alternativní realitu, která se v něm odehrává, propočítaly a nakreslily stroje, samozřejmě tak, aby byla pokud možno k nerozeznání od skutečného videa. Zatím se falza ještě dají rozpoznat, ale jak se výkon počítačů zvyšuje a metody strojového učení zlepšují, pomalu se blížíme k bodu, za kterým už budou opravdu nerozeznatelná od skutečnosti. Ten bod není zas tak daleko; kdybych měl odhadovat přesněji, do roku 2030 budeme tam. Možná i o něco dříve.
Už teď můžeme částečně odhadnout, kterými směry vývoj půjde. Některá současná „deepfake“ videa si na pravá ani nehrají a jejich cílem je nevinné pobavení publika. Virtuální Hitler a virtuální Stalin si společně zazpívali osmdesátkový hit „Video Killed the Radio Star“ (YouTube později toto video smazal), stařičká britská královna si na BBC zatancovala pro Tiktok a David Attenborough se svým nezaměnitelným hlasem namluvil klip ve stylu svých přírodovědných dokumentů, kde popisuje, jak se stárnoucí ruské tanky stahují do ukrajinských plání, aby zde vypustily duši. To jsou celkem neškodné hříčky, kvůli kterým by se nikdo stresovat nemusel.
Za nimi ale následují falešná videa, která už zdaleka tak neškodná nejsou, například klipy celebrit propagujících nějakou kryptoměnu nebo zázračný přípravek. Obzvlášť snadno zneužitelní jsou lidé, kteří jsou známí a kteří vyprodukovali dostatek skutečných videí – herci, novináři, politici –, protože umělá inteligence, která falešné klipy vyrábí, se nejdřív na nějakém materiálu musí „naučit“, jak ten skutečný člověk vypadá, jak mluví, jakou gestikulaci používá, jakou má mimiku ve tváři, a, samozřejmě, čím více takového materiálu, tím líp. Ale dnes už nemusíte být velká celebrita k tomu, aby existovalo mnoho hodin videozáznamu s vaší tváří a hlasem. Za covidu přešla řada firem na porady na dálku, přes kanály jako Zoom a Microsoft Teams, a pokud si zrovna vaše firma ta videa z porad někam ukládá, stačí, aby jí ta data unikla (chybou administrátora nebo při hackerském útoku), aby měli falzifikátoři hezkých pár set hodin kvalitního materiálu ke zpracování.
Jaký bude svět, ve kterém se jednoho rána můžete probudit a zjistit, že někde po Twitteru koluje video, ve kterém vy sám pobíháte před kamerou v oblečku Ku-klux-klanu, zvedáte pravici a vyznáváte se z toho, že poctivě slavíte každé Putinovy narozeniny? Nechá si váš zaměstnavatel vysvětlit, že se jedná o něčí nejapný žert nebo sabotáž? A co vaše okolí, včetně toho internetového? Principy „na každém šprochu pravdy trochu“ a „házej na zeď dostatek špíny, vždycky na ní něco ulpí“ jsou na sociálních sítích už teď dovedeny k dokonalosti a vznikla tam sudičská, nesmiřitelná, nepřátelská atmosféra, jejíž noví Urválkové se vysloveně vyžívají v tom, podrobit náhodné lidi virtuálnímu monstrprocesu a zničit je. Že by je zastavila skutečnost, že něco bylo pravděpodobně zfalšováno … inu, spíš asi nezastavila. Potřeba zažít trestací orgasmus je u nich moc silná a každá příležitost poslouží.
Ale nejistota bude fungovat i opačným směrem. Úniky skutečných kompromitujících situací už nebudou mít tu váhu, co měly dříve. Tajné nahrávky, které dříve pokládaly vlády a ničily ministry, bude možno odstřelit jako podvod a nikdo nedokáže určit jejich skutečný status. Při videohovoru s cizím člověkem si nebudete moci být zcela jisti, zda náhodou nehovoříte s umělou inteligencí, která se jako ten člověk pouze tváří. Při sledování zpravodajství z nějaké budoucí války bude těžké určit, jestli jde o opravdové záběry z bojiště, nebo produkt příslušného propagandistického oddělení. Implicitní nedůvěra se stane základním stavem.
A můžeme-li soudit podle covidové krize, nastane i opačná reakce; určitá část lidí uvěří čemukoliv a vytvoří komunity nedosažitelné rozumem. Videa, na kterých humanoidní ještěři připravují protislovanské nebo protičínské patogeny v tajných laboratořích provozovaných CIA někde v Moldavsku, budou brána jako zjevená pravda a skutečný stav světa, o kterém nelze pochybovat.
Upřímně nevím, jak se v takovém světě bude žít. Ale současný technický vývoj víceméně zajišťuje, že se o tom brzy přesvědčíme.
00:02
