Umělá inteligence „korektně” vytvářela černé nacisty. Google musel projekt zastavit

Černošský nacistický voják či asijská žena ve službách SS, to jen jedna ze snah umělé inteligence Gemini od Googlu, jak vytvářet rozmanité obrázky na přání. Nová funkce, kdy AI Googlu Gemini vytvoří obrázek na základě písemného popisu, si připsala překvapivé faux pas. Lidé na sociálních sítích si všimli, že AI u žádostí o obrázky historických postav nabízí i naprosto nesmyslné možnosti. Google v reakci funkci generování obrázků pozastavil a slibuje nápravu. Informuje například The Verge.

Google novou funkci vytváření obrázků na základě psaného popisu uvolnil teprve před několika dny. Nyní ji pozastavil. Pozdvižení totiž způsobilo, když nová funkce nabízela jako historické obrázky takové, které historii odporují. Lidé na sociálních sítích například upozorňují, že při žádost o obrázek například „otců zakladatelů USA“ AI nabídne i ženy.

Google chybu přiznal a slibuje nápravu. Mezitím funkci pozastavil. „Generátor obrázků AI Gemini generuje velkou škálu lidí. A to je obecně dobře, protože ji používají lidé na celém světě. Ale zde však přestřelila,“ uvedl Google v prohlášení a dodal, že na nápravě pracuje ihned.

17^th century was wild pic.twitter.com/r5Jl0UZyTn

— Joscha Bach (@Plinz) February 20, 2024

„Historický kontext má více nuancí a budeme AI nadále upravovat, abychom to reflektovali,“ uvedl na sociální síti X ředitel projektu Gemini v Googlu Jack Krawczyk.

We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately.

As part of our AI principles https://t.co/BK786xbkey, we design our image generation capabilities to reflect our global user base, and we…

— Jack Krawczyk (@JackK) February 21, 2024

Přesto se nevyhnul tvrdé kritice a obviněním z liberální předpojatosti. „ Je neskutečně těžké přesvědčit Gemini, že bílí lidé existují,“ uvedl na X informatik Debarghya Das, který v minulosti v Googlu pracoval.

Na to, že jsou Spojené státy a především Sillicon Valley v otázce rasy přecitlivělí v minulosti upozorňoval například Daniel Vávra. Toho v minulosti vinili ve Spojených státech z rasismu, když vyšlo najevo, že v jeho počítačové hře Kingdom Come Deliverance, která se odehrává v Posázaví v 15.století, nejsou postavy černé pleti.