Deepfake označuje synteticky vytvořené obrázky nebo videa, často s explicitním nebo sexuálním obsahem. Tyto materiály mohou být vytvořeny pomocí tváří obětí získaných bez jejich souhlasu nebo zcela vygenerovány umělou inteligencí. Nedávno byl v USA zatčen muž z Wisconsinu, který byl obviněn právě z výroby tisíců dětských pornografických snímků pomocí AI nástroje Stable Diffusion.

Ačkoli tento konkrétní případ Bílý dům nezmínil, označil sexuální zneužívání pomocí obrazů za jedno z nejrychleji rostoucích škodlivých využití AI. Umělá inteligence také usnadňuje šíření skutečných nekonsensuálních obrázků děsivou rychlostí a ve velkém měřítku.

Prohlášení bylo napsáno představitelkami Bílého domu Jennifer Kleinovou, ředitelkou Rady pro genderovou politiku, a Arati Prabhakarovou, ředitelkou Úřadu pro politiku vědy a technologie. Prabhakarová v rozhovoru pro Mashable uvedla, že doufají, že společnosti zapojené do šíření sexuálního zneužívání pomocí obrazů nyní podniknou kroky k jeho zastavení. "Chceme, aby společnosti více přemýšlely o tom, co mohou udělat, a podnikly kroky k řešení tohoto problému," řekla Prabhakarová.

Zdroj: Shutterstock

Bílý dům doporučil, aby technologické společnosti omezily weby a aplikace, které vytvářejí, usnadňují nebo šíří sexuální zneužívání pomocí obrazů. Poskytovatelé cloudových služeb by měli zakázat přístup k produktům explicitním deepfake webům a aplikacím. Obchody s aplikacemi by měly vyžadovat, aby vývojáři zabránili vytváření nekonsensuálních obrázků.

Platební platformy a finanční instituce byly vyzvány, aby omezily přístup k platebním službám pro stránky a aplikace, které šíří sexuální zneužívání pomocí obrazů, zejména pokud tyto subjekty inzerují obrázky nezletilých.

Průmysl by měl také pomoci obětem odstranit jejich nekonsensuální obsah z online platforem, což je nyní často matoucí a vyčerpávající proces. Kongres by měl posílit právní ochranu a poskytnout zdroje pro přeživší a oběti sexuálního zneužívání pomocí obrazů, protože dosud neexistuje federální zákon kriminalizující vytváření nebo šíření explicitních deepfake snímků.

Prohlášení Bílého domu uznalo závažnost problému: „Pro přeživší může být toto zneužívání zničující, může jim pozvednout život, narušit jejich vzdělání a kariéru a vést k depresi, úzkosti, posttraumatické stresové poruše a riziku sebevraždy."

Prabhakarová uvedla, že základní technologie generativní umělé inteligence má ohromný potenciál, ale sexuální zneužívání pomocí obrazů je její „škodlivou a ošklivou aplikací“, která narůstá. "Je důležité tuto technologii správně využít, aby mohla přinést pozitivní přínosy," dodala.