Okovy pro digitální mysl. Jak chce EU regulovat umělou inteligenci

„Obávám se, že to nemohu udělat, Dave,“ prohlásil jeden z nejslavnějších filmových robotů, HAL 9000, ve filmu 2001 – Vesmírná odysea. Odmítl tak žádost velitele Bowmana o otevření dveří do lodi – se zjevným úmyslem svého živého kolegu zabít poté, co už zabil jeho spolupracovníka Franka Poola. Kapitán Bowman tento incident přežil, a aby se HALa nemusel nadále bát, odpojil mu všechny vyšší logické funkce, což bylo pro inteligentní počítač ekvivalentem trestu smrti.

Kultovní film, natočený slavným režisérem Kubrickem na motivy stejně kultovního románu A. C. Clarka, zhlédlo během posledního půl století několik set milionů lidí. A součástí dojmu, který si z něj odnesli, bylo i poselství, že myslící počítače mohou být nebezpečné. Ne třeba nutně „samy od sebe“, ale proto, že si až příliš doslovně vyloží svoje úkoly a jdou za jejich splněním doslova přes mrtvoly. HAL povraždil lidské astronauty na palubě Discovery proto, aby neohrožovali plnění mise, které pro něj bylo vším. Na rozdíl od lidí jej v tom nezastavily žádné vrozené zábrany ani empatie, protože jako stroj nic takového neměl.

Poněkud divočejším, ale stále ještě dobře srozumitelným příkladem, který se při debatě o AI používá dnes, je hypotetický „sponkový armagedon“. Představte si inteligentní počítač-továrnu, který dostane úkol vyrábět kancelářské sponky. Jelikož je to stroj, upne se na svůj úkol všemi silami a věnuje se výrobě sponek 24 hodin denně, sedm dní v týdnu. Jak bude takový stroj reagovat na cokoli, co překáží nebo aspoň nepomáhá jeho hlavnímu úkolu, výrobě sponek? Například na zbytek lidské civilizace?

Nedojde, podobně jako HAL, k názoru, že takové překážky je potřeba odstranit z cesty libovolnými prostředky? Koneckonců je to jen stroj a pochopení, že kancelářské sponky mají význam jen v širším kontextu funkční a vyspělé lidské společnosti, mu může naprosto unikat.

Celý text si můžete přečíst na ECHOPRIME nebo od středečních 18.00 v digitální verzi časopisu. Od čtvrtka je na stáncích v prodeji i tištěné vydání Týdeníku Echo. Týdeník Echo si můžete předplatit již od 249 korun za měsíc zde.