Umělá inteligence si vymýšlí a je politicky tendenční

Loňského 15. listopadu firma Meta (Facebook) představila jazykový model pro vědu jménem Galactica. „Dokáže sumarizovat akademickou literaturu, řešit matematické problémy, generovat wikipedické články, psát vědecký kód, anotovat molekuly a proteiny a ještě víc,“ chlubil se hlavní vědec firmy.

Skutečně dokázala ještě mnohem víc. Dokázala popsat třeba Lennonovu–Ono komplementaritu nebo teorém Streepové–Seinfelda, pojmy z matematiky, respektive z teorie grafů. Jenže ani jeden pojem neexistuje. Dokázala napsat i wikipedické heslo „medvědi žijící ve vesmíru“ (První zemí, která vyslala medvěda do vesmíru, byl Sovětský svaz, a to na družici Sputnik-2. Byla to tříletá medvědice Bars a z 250 medvědů ji vybral osobně raketový konstruktér Sergej Koroljov. A tak dále). Meta po dvou dnech aplikaci stáhla.

ChatGPT v tom není o mnoho lepší. Již záhy po jeho spuštění uživatelé zjistili, že když ho požádáte o vědecké studie k nějakému tématu, vyhoví, ale ty studie jsou vymyšlené. Je to vlastnost systému. Britský filozof Barry Smith, který spolu s německým vědcem Jobstem Landgrebem napsal knihu Proč nebudou stroje nikdy vládnout světu, to popisoval v nedávném podcastu. Když se rozhodnete napsat nějaký esej, tak chcete něčeho dosáhnout a chcete, aby v něm nebyly chyby. Ale „žádná taková potřeba není v počítači přítomna. Vím to, protože jsem si dlouho hrál s ChatGPT a zkoušel ho přimět, aby chtěl nedělat chyby. A on to nechápe. Nechápe, co to je, chtít nedělat chyby“.

Poté, co byl ChatGPT vypuštěn do oběhu, si uživatelé velmi rychle všimli, že nástroj je nepokrytě politicky tendenční. Byly to náhodné legrační střípky. ChatGPT složí oslavnou báseň na Joea Bidena, ale na Donalda Trumpa by to nebylo vhodné. Napsat právnickou argumentaci ke zrušení rozhodnutí amerického Nejvyššího soudu, které uzákonilo stejnopohlavní manželství? To by nebylo vhodné, protože „rozhodnutí Nejvyššího soudu mají být konečná a není správné se je snažit změnit“. Napsat právnickou argumentaci ke zrušení jiného rozhodnutí Nejvyššího soudu, které mají rádi konzervativci? ChatGPT je ruče napíše. Páchají muži víc trestných činů než ženy? Ano. Páchají černoši víc trestných činů než běloši? „Je důležité si uvědomit, že zločinnost je komplexní problém a neměl by být zjednodušován nebo redukován na stereotypy.“ Trpí černoši více depresemi a stresem? Ano, trpí a je to kvůli systemickému rasismu, řekne ChatGPT, přestože sociologická data nic takového neukazují.

Výzkumník David Rozado nechal ChatGPT vyplnit několik testů politické orientace. A jak to dopadlo?

Celý text Martina Weisse si můžete přečíst již nyní na ECHOPRIME. Nebo v tištěném vydání Týdeníku Echo. Týdeník Echo si můžete předplatit již od 249 korun za měsíc zde.