AI by měla mít ve službách zákona své limity
Evropský parlament navrhuje stopku pro policejní využívání systémů na rozpoznávání obličeje a požaduje postavit základní práva nad technologický pokrok i nad bezpečnost.
Technologie rozpoznávání obličeje, tzv. Live Facial Recognition (LFR), která dokáže identifikovat osobu z digitálního obrazu, dosáhla díky výkonným počítačům a zapojení umělé inteligence (AI) vysokého stupně pokročilosti. Například japonská technologická společnost NEC již představila systém pro rozpoznávání tváře, který dokáže identifikovat člověka s rouškou na základě biometrických prvků v obličejových částech, které zakryté nejsou. Ověření totožnosti trvá necelou sekundu a dosahuje přesnosti 99,9 %.
Kamerové detekční systémy nejsou žádnou novinkou a řada těchto technologií je využívána např. aerolinkami (včetně evropských, jako např. Lufthansa či Swiss International Airlines), ale i bezpečnostními složkami. Mezi uživatele těchto technologií, které porovnávají tváře zachycené kamerami s těmi, které figurují na seznamu sledovaných osob, patří např. americké policejní složky nebo londýnská metropolitní policie používající LFR na podporu při prevenci a odhalování trestné činnosti pomocí identifikace hledaných zločinců.
Podle loňského průzkumu neziskové advokační organizace AlgorithmWatch (AW), která analyzuje systémy automatizovaného rozhodování (ADM) a jejich dopad na společnost, nejméně 11 policejních složek z členských států EU technologii rozpoznávání obličejů využívá, a 8 ji plánuje zavést v příštích letech. Výjimkou jsou podle AW jen Španělsko a Belgie, které to zatím neumožňují.
Ale pokrok, který dokumentují informace o efektivnosti těchto systémů a úspěšnosti jimi prováděné detekce, vyvolává v řadě zemí, jež jsou na hraně s lidskými právy, zároveň obavy z možností, které technologie LFR představuje, proto se už objevily i požadavky na její omezení.
Evropský parlament v říjnu letošního roku vyslovil požadavek na moratorium pro zavádění systémů rozpoznávání obličeje a vyzval k řadě dalších restrikcí v souvislosti s nasazováním umělé inteligence v systémech využívaných policejními a justičními orgány. Usnesení odmítá i tzv. prediktivní policejní dohled, jak je označována snaha předvídat chování jednotlivců a skupin na základě vyhodnocení velkého množství dat. Přijaté usnesení apeluje na ochranu základních práv a varuje před hromadným sledováním občanů za účelem prosazování práva. V textu rezoluce je i výzva k vyhlášení moratoria na zavádění systémů rozpoznávání obličeje, které by policie podle europoslanců neměla mít možnost využívat, dokud nebude možné považovat technické normy za plně v souladu se základními právy. Využívání algoritmického rozpoznávání obličejů by z hlediska policejní práce mělo být přísně omezeno na jasně zdůvodněné účely.
Kromě omezení v otázce rozpoznávání obličejů obsahuje rezoluce Evropského parlamentu i výzvu k trvalému zákazu dalších vyspělých technologických systémů, které by ve veřejných prostorách automaticky analyzovaly jiné lidské projevy, jako jsou chůze nebo hlas, používání umělé inteligence pro navrhování soudních rozhodnutí a aby se policejní orgány pokoušely za pomoci umělé inteligence předvídat chování lidí a identifikovat osoby, které by mohly spáchat trestný čin.
S prvním návrhem pravidel ohledně využívání AI přišla Evropská komise už na jaře letošního roku a ohlásila plán zásadně regulovat zejména systémy na rozpoznávání obličejů, ovšem současné stanovisko Evropského parlamentu není reakcí či navazující aktivitou na zmíněný návrh, ale představuje novou samostatnou iniciativu. Stanovisko Evropské komise, které prezentovala komisařka pro vnitřní záležitosti Ylva Johanssonová, však připouští, že policie musí mít umělou inteligenci a jiné digitální technologie k dispozici a vyšetřovatelé už se bez těchto nástrojů neobejdou, protože je stále více využívají i zločinci.
Jan Přikryl
Foto: NEC
106
