Bezprecedentní krok: EU bude tvrdě regulovat umělou inteligenci. Vzniknou nové úřady

Evropská unie se chystá udělat dosud bezprecedentní krok. Zřejmě jako první na světě zavede regulaci, která má omezovat využívání umělé inteligence (AI). Stojí za tím bezpečnostní důvody i obavy z manipulace lidí či diskriminace. Zatímco nové nařízení vstoupilo do poslední fáze vyjednávání, soukromý sektor bije na poplach. AI bude zjevně zcela zásadní technologií příštích let a příliš tvrdá regulace může znamenat, že Evropě ujede vlak.

Rizika boomu využívání umělé inteligence jsou reálná, otázka míry, do jaké ji mají státy regulovat, však vyvolává spory. Možná překvapivě je první tah na Evropské unii, ta totiž začala na příslušné legislativě pracovat už před několika lety a má tak nyní šanci schválit regulaci umělé inteligence jako první na světě. To s sebou však nese i značnou odpovědnost. Ačkoliv podle některých se tak unie může „blýsknout“ jako vzor pro ostatní státy, podle kritiků se naopak může ukázat jako hrobař iniciativy na území evropských států.

Na 150 zástupců evropských firem včetně například společností Renault, Heineken či Airbus se ozvalo s tvrdou kritikou vůči návrhu, který prošel v polovině června Evropským parlamentem. Návrh označili v otevřeném dopise za extrémní a varovali před tím, že by takováto regulace mohla „ohrozit evropskou konkurenceschopnost a technologickou suverenitu“ v oblasti umělé inteligence, jak informoval server The Verge či Financial Times.

Zástupci firem se obávají, že může zamýšlená regulace vést až k odchodu vývojářů či společností zabývajících se umělou inteligencí z evropského trhu. Za tím může stát například to, že se poskytovatelé základních modelů AI budou muset registrovat do databáze EU a rovněž budou muset zveřejnit souhrn dat chráněných autorským právem, na kterých se jejich systémy učily. Pro programy typu ChatGPT pak má platit to, že se provozovatelé budou muset registrovat do databáze, ve které mimo jiné uvedou, odkud čerpají data, ze kterých se program učí.

O finální verzi takzvaného Aktu o umělé inteligenci bude nyní parlament jednat s členskými státy, podle schváleného návrhu mají například generativní systémy AI, jako je třeba ChatGPT, označeny tak, aby bylo jasné, že byl obsah vytvořen umělou inteligencí. Nová pravidla pak mají znamenat také vznik nových úřadů či úředních pozic, vzniknout má úřad EU pro AI, který má vedle národních kontrolních úřadů na dodržování nových pravidel dohlížet.

Návrh pravidel přijatý v půli června europoslanci také určuje takzvaně vysoce riziková odvětví, v nichž budou pro AI platit přísnější pravidla, jsou jimi například soudnictví či některé oblasti školství. Ve školství se má podle europoslance Marcela Kolaji omezení týkat například takzvaného e-proctoringu, pomocí něhož mohou školy kontrolovat, zda studenti nepodvádějí při zkouškách online. Za vysoce rizikové považuje Evropský parlament i používání umělé inteligence k ovlivňování voličů (podrobněji jsou stupně rizika popsány například zde)

Úplně zakázány mají být nástroje AI k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz neplatí to pro lékařské a výzkumné účely. Nová pravidla také zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy, které automaticky třídí občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.

Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, vyjádřila v posledních měsících řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jemuž se přezdívá „kmotr umělé inteligence“. Altman například navrhl, aby na AI dohlížela organizace podobná Mezinárodní agentuře pro atomovou energii.