Rozhodnutí Soudu EU ohrožuje „bodovací“ algoritmy pojišťoven, bank nebo sociálních systémů

Soudní dvůr Evropské unie ve čtvrtek rozhodl, že jakékoli rozhodování, které využívá ratingové systémy s použitím osobních údajů, je nezákonné. Toto rozhodnutí, které se týkalo kauzy německé úvěrové společnosti Schufa, by mohlo mít významné důsledky pro fondy sociálního zabezpečení a úvěrové instituce nebo pojišťovny. Píše o tom server euractiv.fr.

„Toto rozhodnutí soudu objasňuje, že GDPR obsahuje zákaz podrobovat jednotlivce automatizovanému rozhodování, které na ně má významný dopad,“ vysvětlila pro Euractiv Gabriela Zanfir-Fortunová, viceprezidentka pro ochranu soukromí z organizace Future of Privacy Forum.

Euractif.fr v této věci připomíná skandál ohledně chybného bodovacího algoritmu z let 2018 až 2021 v Nizozemsku, který nakonec přispěl k pádu třetí vlády Marka Rutteho. Jeho použití vedlo k tomu, že tisíce lidí přišlo o přídavky na děti, když byli na základě systému neprávem obviněni z podvodu.

Ve čtvrtek soud rozhodl ve věci Schufa, největší německé soukromé úvěrové agentury, která hodnotí lidi podle jejich bonity. Podle soudu EU jakýkoli typ automatického hodnocení je zakázán, pokud má významný dopad na životy lidí. Podle rozsudku je "bodování" společnosti Schufa v rozporu s GDPR, pokud mu klienti společnosti Schufa přisuzují "rozhodující" roli ve smluvních rozhodnutích.

Schufa ve svém prohlášení rozhodnutí Soudu EU vítá. Odpovídá podle ní na důležité otázky, jak mohou být prognózy plateb (skóre) použity v rozhodovacích procesech společností v souladu s obecným nařízením o ochraně osobních údajů (GDPR).

„Na tento verdikt jsme se s našimi zákazníky připravovali během několika posledních měsíců,“ říká Ole Schröder, člen představenstva Schufa a hned vysvětluje, jak se s očekávaným rozhodnutím soudu společnost vypořádá. „Ohlasem našich zákazníků je, že prognózy plateb ve formě skóre Schufa jsou pro ně důležité, ale obecně nejsou jediným rozhodujícím faktorem při uzavírání smlouvy. To je důvod, proč velká většina našich zákazníků bude i nadále moci používat skóre Schufa, aniž by se musely upravovat procesy.“

Server euractiv.fr ale upozorňuje, že rozhodnutí soudu může mít závažné důsledky. Ve Francii Národní fond rodinných přídavků (CNAF) používá od roku 2010 automatizovaný algoritmus „bodování“ rizik, na základě kterého jsou spouštěny domácí kontroly pro podezření z podvodu.

Podle právníka Bastiena Le Querreka skutečnost, že CNAF používá automatické skóre pro všechny své příjemce, a vzhledem k převažující důležitosti tohoto skóre ve zbytku procesu, má toto skóre významné dopady na životy lidí, a proto by měly spadat do rámce rozhodnutí Soudního dvora EU. To znamená být zakázány, pokud to francouzský zákon nepovoluje, v přísném souladu s GDPR.

Jinými slovy, bodovací systém by byl nezákonný, pokud by nebyl výslovně povolen francouzským právem a pokud by přesně nesplňoval pravidla EU na ochranu údajů.

Podle Philippa Latombeho, francouzského centristického poslance, pokud je každé kritérium bráno samostatně, může se zdát logické například v boji proti podvodům, součet kritérií ale může být diskriminační, pokud jsou ve vzájemném vztahu.