Zatímco aktivisté za občanská práva již dlouho volají po úplném zákazu, někteří zákonodárci EU mohou zákon o umělé inteligenci vnímat jako příležitost tvrdit, že dělají správnou věc. Ve skutečnosti však dělají pravý opak, píše Ella Jakubowská.
V červnu 2023 se Evropský parlament zapsal do historie. Odhlasoval tehdy úplný zákaz rozpoznávání obličejů v přímém přenosu na veřejných místech.
Zákon o umělé inteligenci
Prostřednictvím nového zákona o umělé inteligenci by EU mohla zabránit společnostem a úřadům, aby s námi všemi zacházeli jako s chodícími čárovými kódy. Tlak ze strany vlád EU však hrozí, že se tato možnost promění ve věc z nočních můr George Orwella.
Od konce léta 2023 se vlády a poslanci EU snaží dosáhnout dohody o zákonu o umělé inteligenci. Tento přelomový zákon sliboval, že se EU stane světovým lídrem ve vyvažování inovací a ochrany umělé inteligence. Realita je však méně optimistická.
Zákonodárci EU po celý listopad debatují o tom, jak velký prostor poskytnout policii k využívání veřejného rozpoznávání obličejů.
Navzdory tomu, že tyto systémy se spojují s porušováním lidských práv po celém světě a nedávno je Amnesty International odsoudila za to, že usnadňují izraelský systém útlaku Palestinců, je závazek Evropského parlamentu k přísnému zákazu v ohrožení.
Zneužívání našich citlivých údajů
V posledním desetiletí se informace o každém aspektu naší fyzické bytosti – tváře, otisky prstů a oči prakticky každého člověka na celém světě – staly běžným platidlem.
Tyto informace (biometrické údaje) jsou matematickou reprezentací těch nejmenších a nejintimnějších detailů a charakteristik. Tyto informace tvoří to, kým jsme. Ze zářivosti lidské odlišnosti jsme kolektivně zúžení na řetězec jedniček a nul.
Biometrické údaje se v posledních letech využívaly ke sledování a monitorování lidí. A to od snahy potlačit a zastrašit prodemokratické demonstranty v Hongkongu a Rusku až po pronásledování černošských komunit v USA.
Dokonce i zdánlivě všední použití, jako například v osobních dokladech, se ve skutečnosti ukázalo být skvělým prostředkem pro systémy, které bez řádného důvodu skenují obličeje a těla lidí. A to se rovná biometrickému masovému sledování.
Dávej pozor, kdo se dívá
Ačkoli se EU prezentuje jako maják demokracie a lidských práv, samozřejmě není imunní vůči praktikám, které se rovnají biometrickému masovému sledování.
Nejnověji dala Francie jasně najevo, že usiluje o masový biometrický dohled. Přijala totiž zákon o zavedení automatizovaných sledovacích systémů pro použití na nadcházejících olympijských a paralympijských hrách.
Vlk v rouše beránčím
Obhájci lidských práv již dlouho tvrdí, že používání obličejů k jejich identifikaci ve velkém měřítku je v rozporu s právem EU. A to zejména v oblasti lidských práv a ochrany údajů.
Ať už v přímém přenosu nebo při zpětném použití, notoricky nespolehlivé a diskriminační veřejné rozpoznávání obličejů masivně porušuje naše lidská práva a základní důstojnost.
Používání takových systémů – často pod vágním tvrzením o „veřejné bezpečnosti“ – je však velmi rozšířené. Právní ochrana proti nim je navíc nejednotná a uplatňuje se nedůsledně.
Co to znamená?
Odvětví sledování AI zákonodárcům téměř řeklo: „Z důvodů národní bezpečnosti nemůžeme zveřejnit důkazy, že tyto systémy fungují. Můžeme vás však ujistit, že ano“. Nejhorší je, že se zdá, že zákonodárci berou své slovo. Zatímco aktivisté za občanská práva dlouho volali po úplném zákazu, někteří zákonodárci EU mohou zákon o AI považovat za příležitost tvrdit, že dělají (lidská) práva – a ve skutečnosti dělají opak.
Podle zpráv z Bruselu, navzdory předchozím závazkům postavit mimo zákon praktiky biometrického hromadného sledování, Evropský parlament nyní zvažuje „úzké“ výjimky ze zákazu živého rozpoznávání tváří a dalších lidských rysů.
Nic jiného než úplný zákaz v zákoně o umělé inteligenci nepomůže
Ale jádro tohoto problému je v tom, že nemůžete dovolit jen trochu biometrického hromadného sledování, aniž byste otevřeli stavidla.
To není hypotetické: S využitím údajných výjimek zapsaných do návrhu zákona o AI výkonným orgánem EU se srbská vláda dvakrát pokusila legalizovat zavedení tisíců fotoaparátů Huawei vybavených rozpoznáváním obličeje.
Pokud zákon EU o AI povolí výjimky, které by zemím EU umožnily využívat necílené veřejné rozpoznávání obličeje, nebude to dlouho trvat, než začneme bojovat proti zákonům o biometrickém hromadném sledování ve všech 27 zemích EU.
Jedním z důvodů použití (výjimka ze zákazu), je vyhledávání osob podezřelých nebo odsouzených ze závažných trestných činů. Nejde to však udělat bez skenování rysů každého ve veřejném prostoru.
Velký Bratr EU nás sleduje na každém kroku
Existují také hlavní otázky týkající se nutnosti. Pokud skutečně dojde k naléhavé situaci, pomůže riskantní a nespolehlivá technologie, jako je rozpoznávání obličeje?
Tisk v Bruselu poznamenává, že Evropský parlament by chtěl, aby byla přidána ochranná opatření. Existuje totiž jen málo toho, co tyto záruky mohou udělat, aby se lidé nemuseli ohlížet přes rameno, kamkoli jdou. Nemůžete zajistit porušení základního lidského práva.
Svoboda nebo hromadné sledování? EU stojí na propasti obrovského úspěchu – zákona o umělé inteligenci, který skutečně staví lidi do jejího středu.
Pokud to uděláme špatně, ocitneme se na propasti zákona, který celému světu říká, že EU upřednostňuje průmysl sledování před lidmi a komunitami.
Zdroje: euronews, TowPoint
