Ještě před pár lety bylo falešné video poznat během pár vteřin. Dnes už to tak jednoduché není. Umělá inteligence (strojový model) dokáže vytvořit záznam, který působí přirozeně, má správný hlas, mimiku i detaily v pozadí. A právě to začíná být problém.

V Bruselu se proto řeší, jestli takový obsah lze pustit z oficiální komunikace ven. Ne proto, že by AI byla sama o sobě špatná, ale protože se s ní dá velmi snadno manipulovat realita. V politice, kde často rozhodují detaily a emoce, to může být dost zásadní.

Zatím se ale mluví spíš obecně než konkrétně. Nikdo přesně neřekl, jestli by se zákaz týkal jen videí napodobujících reálné lidi, nebo třeba i běžných ilustračních obrázků vytvořených pomocí AI. A to je rozdíl, který může celé pravidlo úplně změnit.

Zákaz jako řešení? Spíš jen část odpovědi

Na první pohled to dává smysl. Zakázat problematický obsah a mít klid. Jenže realita internetu funguje jinak. Většina deepfake videí stejně nevzniká v oficiálních kanálech, ale někde bokem, často anonymně. A pak se šíří dál.

Takže i kdyby EU nastavila přísná pravidla pro vlastní komunikaci, lidé se s falešným obsahem budou potkávat dál. Možná jen bez jasného označení, odkud pochází. A to může být ve výsledku ještě větší problém.

Právě proto se čím dál častěji mluví o jiné cestě. Ne zakazovat, ale označovat. Dát lidem jasnou informaci, že daný obsah vznikl pomocí AI. Jenže ani to není stoprocentní řešení, protože označení se dá obejít nebo odstranit.

Evropská unie zároveň připravuje širší pravidla pro umělou inteligenci. Vzniká takzvaný kodex chování, který má nastavit mantinely pro její používání. Kritici ale varují, že Evropa může být až příliš opatrná. A zatímco bude řešit regulaci, jinde se technologie posune dál.