Hlavní body tohoto nařízení zahrnují zákaz některých rizikových praktik AI, jako je sociální hodnocení a biometrická identifikace. Podle nového zákona budou aplikace založené na umělé inteligenci buď zakázány, nebo podlehnou přísným požadavkům a kontrolám.

Mezi zakázané aplikace patří biometrické kategorizační systémy, které využívají citlivé charakteristiky pro rozpoznávání obličejů, a také technologie rozpoznávání emocí na pracovištích a ve školách. Další zakázané praktiky zahrnují prediktivní policejní práci, která je založena na profilování jednotlivců, a manipulaci s lidským chováním pomocí AI.

Zdroj: Shutterstock

Nový zákon také vyžaduje transparentnost a hodnocení rizik u univerzálních systémů umělé inteligence a stanoví požadavky pro označení všech uměle vytvořených nebo zmanipulovaných médií.

Reakce na tento zákon byla převážně pozitivní a mnoho odborníků skutečně vítá jeho průkopnický charakter. Roberta Metsola, předsedkyně Evropského parlamentu, nazvala zákon „průkopnickým“ a zdůraznila jeho rovnováhu mezi inovací a ochranou základních práv.

Evropský komisař pro vnitřní trh Thierry Breton označil nová nařízení za první komplexní a závazná pravidla na světě pro důvěryhodnou AI. Zákon stále musí projít několika závěrečnými kontrolami a bude plně použitelný do dvou let od jeho vstupu v platnost, ovšem je třeba počítat s některými výjimkami, které budou platit dříve.