CDR.cz - Vybráno z IT

EU zakáže užívání AI k hned několika účelům, patří mezi ně rozpoznávání obličeje

Evropská unie uvažuje o zákazu používání umělé inteligence k hned několika účelům, patří mezi ně například hromadné sledování či sociální hodnocení. Za porušování budou hrozit pokuty až do 20 milionů euro nebo 4 % z příjmů firmy.

Evropská komise navrhla nová pravidla a opatření, díky kterým se Evropa bude moci stát globálním centrem důvěryhodné umělé inteligence. Uplatňovat se budou ve všech členských státech stejně a vycházejí z přístupu založeného na rizicích:

  1. Nepřijatelné riziko - systémy či aplikace UI, jenž manipulují s lidským chováním za účelem obejít svobodnou vůli uživatelů a systémy, které umožňují vládám provádět tzv. „sociální hodnocení“.
  2. Vysoké riziko - technologie UI používané například v kritické infrastruktuře, bezpečnostních součástek výrobků, zaměstnávání, prosazování práva a další.
  3. Omezené riziko - systémy umělé inteligence podléhající požadavkům na transparentnost - při jejich používání si uživatelé musí být vědomi toho, že komunikují se strojem.
  4. Minimální riziko - volné používání aplikací, jako jsou hry založené na UI. Spadá sem většina systémů UI a návrh nařízení zde nezasahuje, jelikož jejich rizikovost je minimální.

 

"UI je prostředkem, nikoli cílem. Rozvíjí se již několik desetiletí, ale nyní dosáhla díky zvýšení výpočetního výkonu nových schopností. To nabízí obrovský potenciál v tak odlišných oblastech, jako je zdravotnictví, doprava, energetika, zemědělství, cestovní ruch nebo kybernetická bezpečnost. UI však přináší i řadu rizik. Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni z laboratoře až na trh, zajistit, aby UI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití,“  uvedl komisař pro vnitřní trh Thierry Breton.
 
Dle návrhu Komise by také měla být založena nová Evropská rada pro umělou inteligenci, jež bude složená ze zástupců vnitrostátních úřadů a evropského inspektora ochrany údajů, která by měla se zaváděním nových pravidel pomáhat. Firmy, které se rozhodnou pravidla porušovat, budou čelit pokutám do výše čtyř procent jejich obratu či 517 milionů korun.
 
A co dalšího návrh kromě rozdělení systémů UI do rizik obsahuje?
  • Zákaz používání umělé inteligence pro hromadné sledování.
  • Zákaz UI, jež vytváří tzv. „sociální hodnocení“, tj. posuzování něčí důvěryhodnosti na základě sociálního chování a předvídaných charakteristik osobnosti.
  • Povinnost vlastnit zvláštní oprávnění pro používání systémů biometrické identifikace, jako je rozpoznávání obličejů na veřejných prostranstvích atp.
  • Požadování oznámení o interakci lidí se systémem UI, pokud to „není zřejmé z okolností a kontextu jejího použití".

Michaela "Michaela" Hnátková

více článků, blogů a informací o autorovi

Diskuse ke článku EU zakáže užívání AI k hned několika účelům, patří mezi ně rozpoznávání obličeje

Sobota, 24 Duben 2021 - 23:41 | Gath G | To je podfuk, skutečná UI jsou systémy pro...
Sobota, 24 Duben 2021 - 21:35 | Jack FX | Mně by zajímalo, podle čeho chtějí určit, co to...
Sobota, 24 Duben 2021 - 21:35 | Jack FX | Je třeba se na věcí dívat v souvislostech. Z...
Sobota, 24 Duben 2021 - 20:04 | Gath G | Tak domácího amatéra u toho asi nepřistihnou, ale...
Sobota, 24 Duben 2021 - 15:42 | DrStr | Hahahahahahahaha! Ne, to se nepovede.
Sobota, 24 Duben 2021 - 11:59 | MstSpider | > Nepřijatelné riziko - systémy či aplikace UI...
Sobota, 24 Duben 2021 - 01:05 | maruširi | Chtěl jsem k tomu něco napsat, ale pak jsem si...
Pátek, 23 Duben 2021 - 14:47 | WIFT | Prokázat, že někdo použil zrovna AI třeba zrovna...

Zobrazit diskusi