EU zakáže užívání AI k hned několika účelům, patří mezi ně rozpoznávání obličeje
Evropská unie uvažuje o zákazu používání umělé inteligence k hned několika účelům, patří mezi ně například hromadné sledování či sociální hodnocení. Za porušování budou hrozit pokuty až do 20 milionů euro nebo 4 % z příjmů firmy.
Evropská komise navrhla nová pravidla a opatření, díky kterým se Evropa bude moci stát globálním centrem důvěryhodné umělé inteligence. Uplatňovat se budou ve všech členských státech stejně a vycházejí z přístupu založeného na rizicích:
- Nepřijatelné riziko - systémy či aplikace UI, jenž manipulují s lidským chováním za účelem obejít svobodnou vůli uživatelů a systémy, které umožňují vládám provádět tzv. „sociální hodnocení“.
- Vysoké riziko - technologie UI používané například v kritické infrastruktuře, bezpečnostních součástek výrobků, zaměstnávání, prosazování práva a další.
- Omezené riziko - systémy umělé inteligence podléhající požadavkům na transparentnost - při jejich používání si uživatelé musí být vědomi toho, že komunikují se strojem.
- Minimální riziko - volné používání aplikací, jako jsou hry založené na UI. Spadá sem většina systémů UI a návrh nařízení zde nezasahuje, jelikož jejich rizikovost je minimální.
"UI je prostředkem, nikoli cílem. Rozvíjí se již několik desetiletí, ale nyní dosáhla díky zvýšení výpočetního výkonu nových schopností. To nabízí obrovský potenciál v tak odlišných oblastech, jako je zdravotnictví, doprava, energetika, zemědělství, cestovní ruch nebo kybernetická bezpečnost. UI však přináší i řadu rizik. Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni z laboratoře až na trh, zajistit, aby UI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití,“ uvedl komisař pro vnitřní trh Thierry Breton.
Dle návrhu Komise by také měla být založena nová Evropská rada pro umělou inteligenci, jež bude složená ze zástupců vnitrostátních úřadů a evropského inspektora ochrany údajů, která by měla se zaváděním nových pravidel pomáhat. Firmy, které se rozhodnou pravidla porušovat, budou čelit pokutám do výše čtyř procent jejich obratu či 517 milionů korun.
A co dalšího návrh kromě rozdělení systémů UI do rizik obsahuje?
- Zákaz používání umělé inteligence pro hromadné sledování.
- Zákaz UI, jež vytváří tzv. „sociální hodnocení“, tj. posuzování něčí důvěryhodnosti na základě sociálního chování a předvídaných charakteristik osobnosti.
- Povinnost vlastnit zvláštní oprávnění pro používání systémů biometrické identifikace, jako je rozpoznávání obličejů na veřejných prostranstvích atp.
- Požadování oznámení o interakci lidí se systémem UI, pokud to „není zřejmé z okolností a kontextu jejího použití".
