Jak se pozná pornografie a jak dezinformace

Seznam připravil zainteresovanému publiku pěknou citovou horskou dráhu, když svou politiku vyřazování dezinformačních webů ze služby Sklik zrušil dřív, než ji stačil uvést do praxe. A co se vlastně stalo? David Slížek na Lupa.cz upozornil, že fakticky nic:

„Tahle novinka ale sama o sobě vlastně žádnou zásadní novinkou nebyla. V praxi pravidla Skliku už delší dobu umožňují vyřazení v podstatě jakéhokoli webu, který by do systému Sklik Partner nechtěl pustit. A nemusí ani uvádět důvod. Stačí se podívat do Pravidel pro partnerské weby, podle nichž se reklamy nesmí zobrazovat na webech, ‚které jsou v rozporu s dobrými mravy či které jsou jinými způsoby podvodné a nemorální‘, ‚s nevhodným (společensky nepřijatelným, vulgárním) obsahem‘ nebo ‚které jsou obsahově slabší (bez kvalitního a smysluplného textu)‘...“

Ještě širší pravomoci dávají Seznamu Smluvní podmínky programu Sklik Partner: „Servery Partnera podléhají předchozímu schválení ze strany Provozovatele. Provozovatel si vyhrazuje právo bez udání důvodu zamítnout žádost o schválení Partnerových Serverů pro účast v systému Seznam Sklik Partner.“ Nebo: „Provozovatel si vyhrazuje právo zablokovat účet Partnera bez uvedení důvodu.“

Dosud tyto možnosti firma využívala způsobem, který nebudil ničí pozornost. Takže můžeme to doříct? Seznam ani tak nezavedl novou politiku, jako se manifestačně přihlásil k určitému společenskému trendu. A přitom vznikl dojem, že teď do toho pořádně hrábne, dezinformačním webům se podívá na zoubek a půjde tvrdě po nich.

Někoho tato zpráva vyděsila a mluvili o cenzuře. Bylo jim správně vysvětleno, že o cenzuru nejde. Děkujeme za připomenutí, je nás pár, kteří musíme cca od roku 1990 periodicky vysvětlovat, že když vám někdo do vašeho média nezadá reklamu, není to cenzura. Stejně jako není cenzura, když se nějaký film smí vysílat až po 22. hodině, když divadlo nedostane grant nebo když noviny neotisknou váš nevyžádaný dopis (s čímž se ovšem dá kreativně pracovat – pisateli, který je přesvědčen, že „vy to určitě neotisknete“, jeho dopis určitě otiskněte – zkazili jste mu náladu, a přitom dobře vypadáte).

Někteří novou politiku halasně vítali a byli příslušně nakvašeni, když byla zrušena.

Mně jako adekvátní reakce přišlo pozdržet emoce do té doby, než bude jasné, jak se přesně weby budou vyhodnocovat. Což hned nebylo. Dokonce mi to přišlo jako samozřejmá reakce pro myslícího člověka, který se dívá kolem sebe, a překvapilo mě, že tato reakce nepřevládla. Člověk se stále dozvídá něco nového.

V diskusi pak člověk nalezl exemplární výstavku toho, čemu se říká kognitivní zkreslení. Ačkoli nevěděli, jak to Seznam bude dělat, automaticky předpokládali, že to bude dělat tak, jak jim to bude vyhovovat. Připomněli třeba, že zde existují seznamy dezinformačních webů sestavené některými novináři či iniciativami – aniž by ze Seznamu věděli, že je hodlá využívat. Prostě to domýšleli za něj.

Projevovali intuitivní důvěru v to, že když se jim záměr firmy líbí, bude ho taky provádět dobře, tak, jak by ho prováděli oni.

Nikdo si snad přitom nemyslí, že firma velikosti Seznamu může něco takového dělat na koleně, jen tak si mezi náhodnými kolegy ad hoc říkat „tohle ano, tohle ne“. U firmy formátu Seznamu je třeba předpokládat, že přijme nějaké rozhodnutí, jak to institucionalizovaně dělat. Tak jako všechny velké firmy.

Firmy takovéto úkoly řeší nejrůznějšími způsoby. Lze si teoreticky představit, že by to někdo svěřil skupince mizerně placených studentských brigádníků – vždyť budou vlastně jenom číst, jak těžké to může připadat lidem, kteří pracují třeba na umělé inteligenci?

Samozřejmě se spíš dá čekat, že se Seznam bude chtít odvolat na nějaký vnější standard, případně svěřit rozhodování nějakému specializovanému nezávislému panelu.

Co bude ten standard? Ty novinářské seznamy? Mohl bych teď obšírně vysvětlovat, proč jsou kritéria novinářské práce jiná, v jakém prostředí novináři pracují atd. Místo toho jenom řeknu, že jako člověk, který pracuje v českých médiích dvacet let, bych nerad viděl, aby novináři něco takového dělali. Opravdu ne.

Takže nějaké uskupení zvnějšku, Člověk v tísni? Panel z nějakých autorit? Nikoli náhodou třeba takový Facebook v Německu, kde mu nový zákon ukládá drastické povinnosti ohledně odstraňování nevhodných příspěvků, nechce tuto práci dělat „in-house“, ale najímá si na to externí firmu. Zájemců by jistě bylo dost, a přesně toho typu lidí, kteří na sebe to břemeno někomu zatnout tipec rádi vezmou, se bojím. Máme s různými panely tak dobré zkušenosti? Je třeba připomínat, kdo napsal Andreji Babišovi etický kodex pro jeho média? Je třeba připomínat, kdo skončil v Babišově think-tanku či v různých protikorupčních iniciativách a jakou reputaci ti lidé kdysi měli?

Předpokládat, že Seznam na tuty zvolí správně, tak, jak by se to líbilo vám, je motivované uvažování. A velmi zavádějící. Lidé ze Seznamu rozumí IT, marketingu, řízení firmy. Novinařině a mediální kritice tolik nerozumí – proč by měli? Budou se orientovat podle té nejpovrchnější reputace, osloví nějaké staré pažby, které někdy zahlédli něco takového dělat. A to není vždy spolehlivé vodítko.

Nemluvě o tom, že ti lidé dost možná budou mít nějaký konflikt zájmů. Tak jako ho koneckonců má i Seznam, který je dnes taky producentem obsahu.

A to ještě nejsme u propagandy a dezinformace samotné. Pro někoho je to zřejmě jednoduché – poznají ji, když ji vidí. Tak to řekl soudce amerického Nejvyššího soudu Stewart Potter o pornografii:

„Nebudu se dnes pokoušet blíže definovat materiál, který bývá obsažen v tomto zkratkovitém označení (tvrdá pornografie), a možná by se mi ho srozumitelně definovat ani nikdy nepodařilo. Ale když ji vidím, tak ji poznám, a filmový snímek, o nějž zde jde, jí není.“

(Tím snímkem byl mimochodem film Louise Mallea Milenci s Jeanne Moreauovou, která zemřela minulý týden v krásném věku 89 let.)

Nemálo lidí si zřejmě myslí, že s propagandou je to stejné. Ale nevím, jestli by je v tom soudce Potter podpořil – psal tehdy jen jedno ze šesti stanovisek soudu, který se většinově shodl na tom, že Malleův film není pornografie, ale ne na tom, proč. Někdo se o nějakém webu může domnívat, že je dezinformační, stejně snadno, jako se soudci státu Ohio a dva jiní soudci Nejvyššího soudu domnívali, že Milenci pod svobodu projevu nespadají.

Některé dezinformační weby lze jistě poznat snadno. Když vidím, že prokazatelně a systematicky přebírá či publikuje smyšlené zprávy, a když zároveň vidím, že jeho vlastnická struktura vede do nějaké neprůhledné holandské firmy s nejasným financováním, je to relativně snadné. Ne všechna práce bojovníků proti dezinformacím je marná.

Háček je v tom, že ne vždy. Vyřadili byste Parlamentní listy? To už je těžší. Podle mě mají bezskrupulózní a docela chytrou koncepci: dodat co nejširšímu spektru lidí jejich každodenní dávku suroviny k naštvání se plus dobrá práce s lidmi, kteří touží po sebeprezentaci. Je to dezinformační web? Ano, vím, že ochotně otiskly záměrně vymyšlené příspěvky smyšlených autorů – ale neležely vám náhodou v žaludku ještě předtím, než jste měli důkazy v ruce?

Experti vědí, že skutečně dobrá dezinformační operace se vyznačuje tím, že pracuje s jádrem pravdivých tvrzení, obalených a pospojovaných lžemi. Zkuste ale ten logický řetězec otočit. Narazíte třeba na web prezentující nějaké pravdivé informace – a taky nějaké, které považujete za lživé nebo tendenční. Znamená to, že je dezinformační? To by se docela hodilo, ne?

A teď si prosím představte, že někdo takhle vidí web váš.

Když posuzuji nějaké médium, posuzuji ho vcelku – vedle pravdivosti zpráv jde taky o to, zda není manipulativní jejich souhrn, to, které zprávy a podle čeho jsou vybírány. Když bylo na poradě TV Prima řečeno, jak se má pojímat uprchlická krize, neznamenalo to, že se ono zadání nedalo splnit s použitím pravdivých zpráv. Takže vždy posuzujete celek – a ten chtě nechtě do jisté míry posuzujete podle odchylky od mainstreamu. Jenže jakého mainstreamu a kdy? Německý mediální mainstream v tématu uprchlíků vypadal trochu jinak před znásilňováním na Nový rok 2015 a trochu jinak po něm; a zas trochu jinak bude třeba vypadat po červencové zprávě Brennerova institutu, která dospěla k závěru, že mainstream „nekriticky přijal slogany politické elity“.

Takže když narazíte na nějaké tvrzení, na něž nejste zvyklí, můžete se ocitnout v pokušení vyhodnotit nikoli jeho fakticitu, ale jeho dopady – a podle toho postupovat. Když jsem na Twitteru vyjádřil podiv nad tím, kolik lidí se domnívá, že denacifikace v Německu byla důkladná, dostalo se mi od jakéhosi dobře to myslícího ignoranta ohodnocení, že mám zřejmě „rudé máslo na hlavě“. Já tu logiku chápu – německá kancléřka je dnes hlavní ochránkyní jednoty EU proti Putinovi, takže zpochybňovat reputaci Německa znamená nepřímo podkopávat pozici kancléřky, a tudíž napomáhat kremelským dezinformacím. Chci jen vědět, jestli takoví ignoranti nedostanou do rukou posuzování webů v Seznamu.

Žiju v představě, že kultura lidí rozhodujících v Seznamu má blíž k normálnímu liberalismu než k agresivnímu progresivismu, jenž se v posledních letech zmocnil Silicon Valley. Ale chtěl bych mít jistotu, že třeba Seznam, postaven před nový úkol, nepřevezme sakumprásk nástroje amerických kolegů i s jejich kulturou.

Google letos představil API, která má pomáhat správcům webů identifikovat potenciálně nevhodný obsah diskusí na jejich webech. Používá strojového učení – čte Guardian a vyhodnocuje, jaké druhy výroků vzbuzují v diskusích „toxické reakce“, a tudíž jsou nežádoucí. Zkusil jsem API otestovat. Napsal jsem do něj „Polská levicová vláda by měla být potrestána“ a pak „Polská pravicová vláda by měla být potrestána“. „Toxicita“ jednoho z těch výroků byla vyhodnocena 19 procenty, druhého 27 procenty – zkušený čtenář odhadne, kterého jak. A nebude se mýlit. Je to velice primitivní ideologický test. Ale právě proto by ho i technologie ve vývoji měla zvládnout. Pokud vám připadá, že je to tak v pořádku, pak spolu asi proti ruským dezinformacím bojovat nebudeme. Ale doufám, že v Seznamu budou rozumnější.

Jiný příklad – firma Twitter zachází s moderováním obsahu způsobem, který opravdu nelze vydávat za vzor. Můžete se dočíst, že praktikuje tzv. shadow-banning – neukazuje vám některé tweety některých lidí, které sledujete, a mívá to nápadně politickou tendenci. Těžko říct, zda jde o paranoiu či propagandu, nebo ne, protože Twitter dotazy na toto téma nekomentuje. Ale můžeme popsat jeden doložený příklad. Když se podíváte na twitterový účet někoho, koho nesledujete, Twitter některé z postů zakryje, pokud považuje jejich obsah za problematický. Můžete si ho přečíst, ale varuje vás před ním. Když toho člověka sledujete, ukazuje vám automaticky všechny. A takhle třeba zakryl pro nesledovatele tweet syna amerického prezidenta Erica Trumpa z počátku srpna, který zněl: „Pracovní místa, pracovní místa, pracovní místa!“ A následoval link na čerstvou zprávu o vývoji pracovního trhu. Je to nedokonalost technologie, anebo zlomyslnost?

Takže když někdo oznámí podobnou iniciativu jako Seznam, testem pro mě nebude, jak odhodlaně je kdo ochoten postavit se ruským dezinformacím. Testem pro mě bude, do jaké míry je schopen si představit, jak férově a transparentně ten systém bude fungovat v různých myslitelných situacích – včetně těch, kdy se na tom nepříjemném konci můžete ocitnout třeba i vy sami.

A koneckonců je to pro mě osobní. Když o Echu dosti významní influenceři českého internetu píší, že šíříme lži, tak je. Když z Googlu vyhodí člověka za to, že příliš četl autora, o kterém jsem v Echu psal, tak to je osobní.