Pedofilům nahrává umělá inteligence. „Svlékají“ oblečené děti a vydírají je

Rychlý rozvoj programů na umělou inteligenci (AI), která je schopná generovat realistické fotografie, pomohla pedofilům k rozšíření dětské pornografie a zločincům k vydírání nezletilých. Na deepwebu si podrobně radí krok za krokem, jak takové snímky vytvářet a šířit, píše server Fox News.

Expert na digitální bezpečnost pro Canopy Yaron Litwin, který se zabývá bojem proti škodlivým digitálním obsahům, varuje, že AI je zneužívána pedofily se záměrem vytvářet a distribuovat nahé snímky dětí či je sexuálně vykořisťovat přes internet. Jednou z těchto technik je úprava skutečné fotografie plně oblečeného teenagera a její přeměna na nahý snímek. Litwin uvedl příklad, kdy se 15letý chlapec se zájmem o posilování připojil k online síti nadšenců fitness. Jednoho dne sdílel se skupinou fotografii, na níž měl obnažený hrudník po tréninku. Tento snímek byl upraven do podoby zcela nahého obrázku a následně použit k vydírání mladistvého, který si původně myslel, že jeho fotografie je neškodná.

Pedofilové se za pomoci speciálních prohlížečů deepwebu zapojují do fór, kde najdou návody, jak snadno vytvářet falešné fotografie nahých dětí. Tyto obrázky jsou poté sdíleny nebo je používají k tomu, aby si vytvořili falešnou online osobnost a povídali si na internetu s nezletilými a získávali si jejich důvěru. Mladistvý tak například ve víře, že na druhé straně obrazovky stojí rovněž jeho vrstevník, pak pedofilovi může posílat intimní snímky.

Vloni sociální sítě nahlásily 9% nárůst materiálů podezřelých ze sexuálního zneužívání dětí. 85 % těchto materiálů pocházelo z digitálních platforem společnosti Meta, jako je Facebook, Instagram a WhatsApp. Vedoucí bezpečnosti společnosti Meta Antigone Davis uvedla, že 98 % nebezpečného obsahu je odstraněno dříve, než to kdokoli nahlásí jejich týmu.

Litwin Fox News řekl, že proces úpravy již existujících fotografií pomocí AI se stal neuvěřitelně snadným a rychlým. Toto snadné použití se využívá na vytváření zcela vykonstruovaných obrazů k sexuálnímu vykořisťování dětí. "Tohle nejsou skutečné děti," upozornil Litwin. "Jsou to děti, které jsou generovány pomocí umělé inteligence. A protože algoritmus časem přijímá více těchto obrázků, může se v podstatě zlepšovat, a to negativním způsobem," dodal.

Podle nedávné analýzy by obrázky dětí zapojených do sexuálních aktů generované umělou inteligencí mohly potenciálně narušit centrální sledovací systém, který blokuje materiál týkající se pohlavního zneužívání dětí na webu. Ve své současné podobě je systém navržen tak, aby pouze detekoval existující fotografie zneužívání, nikoli ty generované.

Ačkoli většina programů AI, jako je Stable Diffusion, Midjourney a DALL-E, má omezení ohledně toho, na jaké výzvy bude systém reagovat, Litwin podotkl, že zločinci začínají využívat open-source algoritmy dostupné na deepwebu. V některých případech lze také oklamat snadno dostupné programy umělé inteligence a obcházet jejich zavedené mantinely na potenciálně hanebné výzvy.

Podle Litwina je kvůli velkému množství generovaného explicitního materiálu náročné tyto obrázky blokovat a filtrovat, což usnadňuje nalákávání dětí a jejich vystavení škodlivému obsahu. Poukázal na aplikaci Canopy, na které se podílel. Ta slouží rodičům a detekuje a blokuje nevhodný obsah během milisekund předtím, než se dostane na obrazovku počítače nebo telefonu dítěte. Upozorňuje rovněž na sexting a další dětem nebezpečné praktiky v digitálním světě.