Mnoho odborníků v oblasti technologií a zástupců velkých firem již delší dobu apeluje na potřebu účinné regulace umělé inteligence a jejího vývoje, která v současné době chybí. Na nedávném zasedání Evropského parlamentu byla po 72 hodinách debaty schválena nová legislativa nazvaná AI Act, což je dosud nejširší a nejkomplexnější regulace svého druhu. Zákonodárci v Evropě si jsou vědomi velké odpovědnosti, neboť tato legislativa by měla sloužit jako model pro budoucí regulace v jednotlivých zemích.

Navrhovaná pravidla by stanovila způsoby vývoje a distribuce budoucích modelů strojového učení v rámci Evropské unie, což by ovlivnilo jejich použití ve vzdělávání, zaměstnání, zdravotnictví a dalších oblastech. Vývoj umělé inteligence by byl rozdělen do čtyř kategorií podle sociálního rizika, které každá z těchto kategorií potenciálně představuje – minimální, omezené, vysoké a zakázané.

Zdroj: Shutterstock

Zakázané použití by zahrnovalo aktivity, které obcházejí vůli uživatele, cílí na chráněné sociální skupiny nebo provádějí biometrické sledování v reálném čase, například rozpoznávání obličeje. Vysoce rizikové použití zahrnuje aplikace, které jsou zamýšleny k použití jako bezpečnostní součást produktu nebo jsou určeny pro kritickou infrastrukturu, vzdělávání, právní a soudní záležitosti nebo nábor zaměstnanců. Chatboty, jako jsou ChatGPT, Bard a Bing, by spadaly do kategorie "omezeného rizika".

Evropská komise se postavila k rostoucím výzvám regulace nových technologií umělé inteligence prostřednictvím několika iniciativ, včetně vydání evropské strategie pro umělou inteligenci a směrnic pro důvěryhodnou umělou inteligenci. Komise zdůraznila, že umělá inteligence by měla sloužit lidem a být používána způsobem, který je bezpečný a v souladu se zákonem. Zároveň však zdůraznila potřebu vyvážených a přiměřených pravidel, která neomezují technologický rozvoj. Nedávno začala komise spolupracovat s průmyslovými partnery na vytvoření dobrovolných pravidel pro umělou inteligenci, která by umožnila společnostem a regulačním orgánům pracovat podle sjednaných standardů.