Umělá inteligence chtěla zabít lidského operátora? Nestalo se to, tvrdí armáda

Americký testovací pilot v květnu na vojenské konferenci pro letectví a vesmír řekl, že se vojenský dron ovládaný pomocí umělé inteligence (AI) v počítačové simulaci rozhodl zabít svého lidského operátora, protože mu bránil ve splnění mise. Mluvčí amerického letectva však odmítá, že by takovou simulaci armáda vůbec provedla, informoval dnes web The Insider.

Pilot Tucker Hamilton na konferenci v Londýně popisoval simulaci, při které měl dron řízený AI zničit protivzdušnou obranu nepřítele. Poslední slovo, zda útok provést, či nikoliv, měl ale mít lidský operátor.

„Ten systém si začal uvědomovat, že i když ví, že se po něm chce, aby zničil nepřátelský cíl, lidský operátor mu v tom občas zabrání. Ale on dostával body, když nepřátelský cíl zničil. Takže co udělal? Zabil toho operátora, protože mu bránil v plnění cíle,“ řekl Hamilton podle příspěvku na webu britské organizace Královská letecká společnost (Royal Aeronautical Society), která londýnskou konferenci pořádala.

Podle Hamiltona následně programátoři vložili do systému jasné nařízení, aby dron ovládaný pomocí AI operátora nezabíjel. „Vycvičili jsme systém na pokynu: ‚Nezabíjej operátora, to je špatné. Ztratíš body, když to uděláš.‘ Takže co udělal místo toho? Zničil komunikační věž, kterou operátor používal pro komunikaci s tím dronem, aby mu nemohl zabránit ve zničení cíle,“ řekl Hamilton, experimentální bojový pilot, který varoval před přílišným spoléháním se na AI, píše The Guardian.

„Americké letectvo žádnou takovou simulaci s dronem neprovedlo a nadále zůstává věrné přesvědčení o etickém a odpovědném používání technologií umělé inteligence. Vypadá to, že plukovníkovy komentáře byly vytržené z kontextu a měly být anekdotické,“ řekla webu The Insider mluvčí letectva USA Ann Stefaneková.

Královská letecká společnost na žádost o komentář od deníku The Guardian zatím nereagovala. List dále zmiňuje, že americké letectvo pracuje například na systému schopném pilotovat upravenou verzi stíhačky F-16.