Umělá inteligence hloupne a nikdo neví proč

Američtí výzkumníci, kteří se zabývají umělou inteligencí, dospěli k překvapivému zjištění. Jeden z nejpopulárnějších produktů používajících tuto novou technologii totiž za poslední měsíce výrazně „zhloupl“.

Vědci z univerzit v Berkeley a ve Stanfordu zkoumali ChatGPT, generátor textu od společnosti OpenAI, jehož pravidelní uživatelé si v posledních týdnech stěžovali na zhoršení kvality jeho odpovědí. Výsledky nejnovějšího výzkumu, zveřejněné tento týden, jim dal poněkud neočekávaně za pravdu.

Vědci porovnávali dvě verze programu, starší ChatGPT-3.5 a novější ChatGPT-4. ChatGPT-4 se oproti své předchozí verzi výrazně zhoršil například v detekci prvočísel. Zatímco verze programu z letošního března prvočíslo správně pozná v 97,6% případů, v případě červnové verze je úspešnost pouhých 2,4%. Výzkum rovněž zaznamenal, že novější ChatGPT také dělá více chyb při generování zdrojového kódu a byl méně ochotný odpovídat na “citlivé otázky“.

Výzkum se neklade otázku, co za zhoršením stojí. Zdá se, že ChatGPT-4 generuje odpovědi rychleji, ale za cenu nižší kvality. Společnost OpenAI však takové závěry odmítá. „Ne, neudělali jsme GPT-4 hloupější. Je to přesně naopak – každá verze je chytřejší než ta předchozí,“ napsal na Twitter jeden z vrcholných manažerů firmy Peter Welinder. Podle něj je větší chybovost programu jen zdánlivá. „Když jej používáte intenzivněji, začnete si všímat problémů, které jste předtím neviděli,“ tvrdí.