Muž chtěl zjistit, co o něm ví umělá inteligence. Dozvěděl se, že je vrah dětí

Arve Hjalmar Holmen z Norska navázal konverzaci s ChatGPT, aby zjistil, jaké informace mu chatbot OpenAI nabídne, když zadá své vlastní jméno. Byl zděšen, když ChatGPT uvedl nepravdivé tvrzení, že zabil své vlastní syny a byl odsouzen k 21 letům vězení. Ačkoliv šlo o naprostý výmysl, systém do smyšlenky zakomponoval i některé skutečné informace o Holmenovi, například počet a pohlaví jeho dětí nebo název města, odkud pochází.

Tento incident odhaluje temnou stránku jazykových modelů. Ačkoliv se často jeví, že odpovědi AI jsou správné a přesné, ve skutečnosti mohou být výstupy jen sofistikovanou variantou autokorekce – někdy trefné, jindy naprosto mimo a, jak vidno, i nebezpečné, píše server Above The Law.

Holmenův případ zaujal evropskou organizaci na ochranu osobních údajů Noyb (None Of Your Business), která podala stížnost na společnost OpenAI na základě nařízení GDPR. Cílem je dosáhnout toho, aby jakákoliv Holmenova osobní data byla odstraněna z trénovacích dat modelu. Podle zástupců Nyob je tento případ ukázkovým příkladem, proč je třeba AI regulovat přísněji a zajistit transparentnost jejich „černých skříněk“.

„Je děsivé, že systém může tak snadno spojit reálné informace s naprostými výmysly a vytvořit věrohodně znějící příběh, který může člověku zničit reputaci,“ komentoval incident právník Nyob. „Pokud se AI naučí fabulovat tímto způsobem, musíme být připraveni čelit následkům.“

V USA chrání občany například zákon CCPA (California Consumer Privacy Act), ale většina států podobnou legislativu postrádá. Situace tak opět zdůrazňuje rozdílnou úroveň ochrany osobních údajů po celém světě.