Umělá inteligence „korektně” vytvářela černé nacisty. Google musel projekt zastavit

AI VS. HISTORIE

Umělá inteligence „korektně” vytvářela černé nacisty. Google musel projekt zastavit
Výtvory AI od Google prezentované jako nacističtí vojáci. Foto: Google Gemini
1
Panorama
Sdílet:

Černošský nacistický voják či asijská žena ve službách SS, to jen jedna ze snah umělé inteligence Gemini od Googlu, jak vytvářet rozmanité obrázky na přání. Nová funkce, kdy AI Googlu Gemini vytvoří obrázek na základě písemného popisu, si připsala překvapivé faux pas. Lidé na sociálních sítích si všimli, že AI u žádostí o obrázky historických postav nabízí i naprosto nesmyslné možnosti. Google v reakci funkci generování obrázků pozastavil a slibuje nápravu. Informuje například The Verge.

Google novou funkci vytváření obrázků na základě psaného popisu uvolnil teprve před několika dny. Nyní ji pozastavil. Pozdvižení totiž způsobilo, když nová funkce nabízela jako historické obrázky takové, které historii odporují. Lidé na sociálních sítích například upozorňují, že při žádost o obrázek například „otců zakladatelů USA“ AI nabídne i ženy.

Google chybu přiznal a slibuje nápravu. Mezitím funkci pozastavil. „Generátor obrázků AI Gemini generuje velkou škálu lidí. A to je obecně dobře, protože ji používají lidé na celém světě. Ale zde však přestřelila,“ uvedl Google v prohlášení a dodal, že na nápravě pracuje ihned.

„Historický kontext má více nuancí a budeme AI nadále upravovat, abychom to reflektovali,“ uvedl na sociální síti X ředitel projektu Gemini v Googlu Jack Krawczyk.

Přesto se nevyhnul tvrdé kritice a obviněním z liberální předpojatosti. „ Je neskutečně těžké přesvědčit Gemini, že bílí lidé existují,“ uvedl na X informatik Debarghya Das, který v minulosti v Googlu pracoval.

Na to, že jsou Spojené státy a především Sillicon Valley v otázce rasy přecitlivělí v minulosti upozorňoval například Daniel Vávra. Toho v minulosti vinili ve Spojených státech z rasismu, když vyšlo najevo, že v jeho počítačové hře Kingdom Come Deliverance, která se odehrává v Posázaví v 15.století, nejsou postavy černé pleti.

Sdílet:

Hlavní zprávy

Týdeník Echo

Koupit
×

Podobné články