Svět s umělou inteligencí: studenti zpět do lavic a zbraň v rukou hackerů

Umělá inteligence a internetový chatbot ChatGPT jsou pomalu nejpopulárnějším tématem internetu. AI se stává stále více užitečným nástrojem v průmyslu, zdravotnictví, nebo programování. Umělá inteligence ale současně přináší řadu etických a společenských otázek týkajících se bezpečnosti a soukromí, regulace či autorství. Redakce Echo24 níže přináší přehled některých sporných oblastí.

Technologický vizionář Bill Gates nedávno prohlásil, že vznik a vývoj umělé inteligence je stejně důležitý jako vynález mikroprocesoru, stolního počítače, internetu nebo mobilního telefonu. „Hodně jsem přemýšlel o tom, jak může AI snížit nejhorší světové nerovnosti. Celosvětově nejhorší je nerovnost ve zdraví: každý rok umírá 5 milionů dětí ve věku do 5 let. To je sice méně než 10 milionů před dvěma desetiletími, ale stále je to překvapivě vysoké číslo. Téměř všechny tyto děti se narodily v chudých zemích a umírají na příčiny, kterým lze předejít, jako průjem nebo malárie,“ vidí největší přínos Gates.

Současně se ale objevují obavy z budoucnosti AI. Kupříkladu stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“. I ředitel firmy OpenAI, která ChatGPT vyvinula, Sam Altman v nedávném rozhovoru přiznal, že se „trošku bojí“.

Školství

Využití umělé inteligence ve školství může přinést výhody jako personalizované vzdělávání, zlepšení zpětné vazby a efektivnější hodnocení studentů. Už se ale pochopitelně čile diskutuje o možném zneužití schopností AI při psaní akademických textů. Podle odborníků je hlavní se s ním naučit pracovat.

„Existují samozřejmě případy, kdy je rozumné zakázat použití AI při určitých aktivitách. I s existencí umělé inteligence potřebujeme, aby se studenti naučili myslet kriticky, k čemuž slouží například eseje. Ty se s největší pravděpodobností budou psát zase v lavicích, místo na počítači, jak si studenti od dob covidových lockdownů zvykli. Druhou alternativou je vznik AI, která dokáže rozpoznat, že text napsala jiná AI. Učitelé by pak esej jednoduše projeli tímto softwarem a případné podvodníky odhalili během sekund,“ myslí si Tomáš Ditrych, partner advokátní kanceláře Mavericks.

Autorská práva

Nejasné je to zatím s autorstvím produktů, které vygeneruje umělá inteligence. Ja autorem softwarového kódu nebo novinářské zprávy psané AI ten, kdo zadal pokyn, nebo ten, kdo umělou inteligenci stvořil? Důležité je jasně definovat zodpovědnost a právní povinnosti při využití umělé inteligence.

„Základní maxima autorského práva je, že autorem díla může být pouze fyzická osoba, tedy člověk z masa a kostí. Ozývají se však hlasy, které chtějí přidělit autorství i umělé inteligenci. AI je podle nich zvláštní právní statek a jako takový si zaslouží vyčlenění z autorského práva a poskytnutí vlastní právní úpravy,“ vysvětluje Ditrych.

Kyberbezpečnost

Kyberbezpečnost je oblastí, kde může umělá inteligence odhalovat kybernetické útoky, ale hackeři ji také mohou zneužít k e svým vlastním útokům. Novou verzi ChatGPT lze snadno použít například k vytváření phishingových zpráv, napodobujících e-maily od banky, nebo podvodných zpráv zaměstnancům. Snadno lze vytvořit také malware, který bude krást a odesílat pdf dokumenty, nebo kód pro stažení a spuštění malwaru.

„Hackeři by mohli vzhledem k rychlé reakci ChatGPT4 překonávat jednoduše technické problémy při vývoji a vylepšování malwaru. ChatGPT4 může, stejně jako prakticky všechny průlomové technologie, sloužit dobrým i špatným účelům,“ říká Pavel Krejčí, Security Engineer z kyberbezpečnostní společnosti Check Point Software Technologies.

Zaměstnanost

V oblasti trhu práce může umělá inteligence pomoci s výběrem kandidátů a řízením lidských zdrojů, ale také může vést k ztrátě pracovních míst a diskriminaci znevýhodněných skupin.

„Zejména v průmyslu se stává nedílnou součástí procesů a automatizace. Díky tomu mohou být výrobní procesy efektivnější a přesnější, což umožňuje zvýšení výrobních kapacit a zlepšení kvality produktů,“ vysvětluje Karel Kotoun, zakladatel společnosti Green0meter a dodává, že ve službách umělá inteligence pomáhá například s personalizovanou nabídkou služeb a zlepšením zákaznického servisu.

Současně ale panuje obava ze ztráty mnohých pracovních pozic. Velké mediální vydavatelství Axel Springer kupříkladu nedávno varovalo před možným omezením novinářského trhu.

Sociální nůžky

Podobně jako Gates i další hovoří o tom, že umělá inteligence má pomoci narovnat sociálních nespravedlností. Současně se ale varuje před opakem, a sice že některým skupinám umělá inteligence neposkytne tak přesné odpovědi kvůli menšímu statistickému vzorku.

„Kdyby se ukázalo, že se sociální nerovnost skutečně prohloubila, je na zákonodárci a sociálním státu, aby se o ty nejslabší z nás lépe postaral,“ myslí si Ditrych.

Samořiditelná auta

A co když dojde k nehodě, do níž se připlete zdánlivě autonomní vozidlo, bez řidiče, namísto toho řízené umělou inteligencí? Podle dosavadních zkušeností záleží na tom, jestli je na vině i řidič nějakého dalšího automobilu, anebo o jaké autonomní vozidlo konkrétně jde.

„Obecně platí, že čím více možností má člověk zasáhnout do řízení vozidla, tím více bude za případnou nehodu odpovědný. V Česku ani na úrovni EU stále neexistuje žádná explicitní právní úprava samořídících vozidel. Už od roku 2021 je však projednáván návrh nařízení o umělé inteligenci (tzv. Artificial Intelligence Act), jehož ambicí je nastavit napříč EU jednotný právní rámec pro umělou inteligenci a její provozovatele a uživatele,“ uvádí partner Mavericks.