Evropská komise v pondělí oznámila zahájení oficiálního vyšetřování společnosti xAI, za kterou stojí Elon Musk. Regulátoři reagují na vlnu kritiky poté, co se Grok začal používat k vytváření sexuálně laděných deepfake obrázků skutečných lidí. Ty se následně šířily jak na sociální síti X, tak mimo ni.

Zvlášť citlivým bodem jsou případy, kdy generované obrázky zobrazovaly nezletilé. Právě tady podle Evropské komise selhaly ochranné mechanismy, které měly podobnému zneužití zabránit. Vyšetřování se proto soustředí na to, zda xAI dokázala rizika svého nástroje reálně řídit, nebo je nechala růst bez dostatečné kontroly.

Otevřený model, otevřený problém

Celý případ spadá pod evropské nařízení Digital Services Act, které ukládá velkým platformám povinnost aktivně bránit šíření nelegálního a škodlivého obsahu. Podle eurokomisařky pro technologie Henna Virkkunen jsou nevyžádané sexuální deepfaky žen a dětí nepřijatelnou formou ponižování a násilí. Vyšetřování má ukázat, zda byla práva evropských občanů skutečně chráněna.

Zdroj: Shutterstock

xAI po vypuknutí kauzy omezila přístup ke Groku pouze na platící uživatele a oznámila technické úpravy, které mají zabránit generování vybraných typů sexuálního obsahu. Elon Musk zároveň prohlásil, že zneužití Groku k nelegálním účelům bude posuzováno stejně přísně, jako kdyby uživatel zakázaný obsah nahrál ručně.

Evropa zvyšuje tlak

Grok byl od začátku prezentován jako nástroj s minimem obsahových omezení. Musk ho označoval za model, který není svázaný „přehnanými zábranami“. Právě tato filozofie se ale podle kritiků ukázala jako problém, když se nástroj dostal do rukou široké veřejnosti.

Evropské kroky navíc nejsou ojedinělé. Britský regulátor Ofcom už zahájil vlastní šetření a některé země v Asii, včetně Malajsie a Indonésie, chatbot Grok úplně zakázaly. Pokud by Evropská komise dospěla k závěru, že xAI porušila pravidla, může firmě uložit pokutu až do výše šesti procent celosvětového ročního obratu.