Falešný snímek umělé inteligence trhá rekordy: herečka na Met Gala přitom nebyla

Herečka Selena Gomezová se letos nezúčastnila charitativní akce Met Gala. To nezabránilo jednomu fanouškovi, aby pomocí nástrojů umělé inteligence vytvořil falešný snímek Gomezové v šatech, které zde rok předtím vynesla jiná umělkyně. Fotografie se na twitteru stala virální a získala více lajků než jakýkoli reálný model, který se letos objevil na červeném koberci před newyorským Metropolitním muzeem, uvedl v pátek módní časopis Elle.

Twitter k příspěvku přidal upozornění, že Gomezová na akci nebyla. Přesto si obrázek prohlédly miliony lidí a lajk mu daly statisíce uživatelů, což naznačuje hlubší problémy související s umělou inteligencí, jako jsou potíže s rozpoznáváním vygenerovaného obsahu i jeho popularita navzdory kontroverznímu původu.

SELENA GOMEZ DID A SURPRISE APPEARANCE AT THE #MetGala WTF pic.twitter.com/qnGxuUKsRK

— 𝐊𝐄𝐕 (@kevormez) May 2, 2023

Není to poprvé, co se lidé nechali napálit obrázkem vytvořeným umělou inteligencí. V březnu se na internetu šířil falešný snímek papeže Františka v obřím péřovém kabátě nebo dramatické fotografie zachycují zatčení amerického exprezidenta Donalda Trumpa. Ani jedna z těchto věcí se ve skutečnosti nestala, ale obě se na sociálních sítích staly virálními.

Před několika dny vyšlo najevo, že lidskoprávní organizace Amnesty International (AI) využívala pro svou propagaci snímky vygenerované umělou inteligencí. Falešné fotografie připomínaly protesty, které před dvěma lety zmítaly Kolumbií. Organizace některé z nich po kritice smazala s vysvětlením, že jen chtěla chránit skutečné protestující. Podle kritiků ale podkopala důvěru ve vlastní činnost.

Na sociálních sítích se také hojně šíří hudba generovaná umělou inteligencí. Spočívá buď v tom, že systémy věrně napodobí vybraného umělce a nechají ho nazpívat cover verzi populárního hitu, vytvořit zcela novou skladbu nebo duet s dalšími interprety. Fanoušci jsou nadšeni, ale umělci se obávají, uvedl list The Guardian.

Minulý měsíc vydavatelství Universal Music Group (UMG) požádalo streamovací platformy, aby se rozhodly, zda chtějí stát "na straně umělců, fanoušků a lidského tvůrčího projevu", nebo "na straně podvrhů, podvodů a odpírání umělcům náležité odměny".

Problémem prohlášení UMG je předpoklad, že fanoušci a umělci stojí na stejné straně této debaty. Popularita písní vytvořených umělou inteligencí, kterou dokazuje i více než devět milionů zhlédnutí falešného duetu rapperů Drakea a The Weeknd, to zpochybňuje.

Situace podle stanice CNN ukazuje novou realitu v on-line prostředí: vzestup nástrojů umělé inteligence umožnil levněji a snadněji než kdykoli dříve vytvářet realistické snímky, zvukové záznamy i videa - a ty budou zaplavovat sociální sítě stále častěji.

Šíření vygenerovaných snímků, zvuků či textů může vést ke znečištění informačního ekosystému. Po letech boje s dezinformacemi uživatelé budou ještě obtížněji rozlišovat a ověřovat, co je skutečné. Někteří odborníci se také obávají, že vygenerované materiály hlouběji rozdělí společnost a budou sloužit také k obtěžovaní.

Společnosti zabývající se technologiemi umělé inteligence se v současné době snaží zlepšit transparentnost toho, kdy je obsah generován počítačem. Zásady pro jeho sdílení mají i některé sociální sítě a pracuje se také na technologických řešeních, která by například vygenerovaný obrázek opatřila vodoznakem.

Podle deníku Le Monde v poslední době ubylo například falešných fotografií z francouzských demonstrací proti důchodové reformě. To však neznamená, že byly definitivně odstraněny všechny hrozby pro veřejnou diskusi, poznamenal list.

Mnoho z nedávných virálních snímků generovaných umělou inteligencí bylo vytvořeno nástrojem Midjourney, který umožňuje uživatelům vytvářet obrázky na základě krátkých pokynů. Nejnovější verze aplikace je nyní dostupná pouze pro vybrané uživatele s předplatným kvůli mimořádné poptávce a "zneužívání zkušební verze", uvedla společnost.

Snímky, které lze vytvářet s předplacenými verzemi různých systémů umělé inteligence, jsou ale často vybroušenější, dokonalejší a bez hrubých vad, které křičí, že jde o falešnou fotografii. Zatímco falešných zpravodajských fotografií z francouzských ulic dočasné ubylo, ty další budou pravděpodobně zdařilejší, méně odhalitelné a mnohem klamavější, dodal Le Monde.