Falešné obrázky se začaly šířit ve dvou skupinách na WhatsAppu, což vedlo k obrovskému šoku mezi oběťmi, které se často bály o celé situaci mluvit. Matka jedné z obětí sdělila deníku The Guardian, že její dcera, stejně jako ostatní dívky, byla "úplně vyděšená a měla ohromné záchvaty úzkosti". Dívky se cítily nesmírně zranitelné a trpěly v tichosti.

Vyšetřování odhalilo, že teenageři stahovali fotografie z profilů na sociálních sítích a překrývali tváře spolužaček na jiná nahá ženská těla pomocí AI. Tento incident je součástí širšího globálního trendu, kde mladí lidé používají umělou inteligenci k vytváření sexuálně explicitních materiálů bez souhlasu obětí. Podobné případy byly zaznamenány i v USA, což vedlo Evropskou unii k návrhu rozšířit definici sexuálního zneužívání dětí, aby zahrnovala i falešné obrázky a materiály generované umělou inteligencí.

Zdroj: Shutterstock

Psychologické a sociální důsledky

Oběti nejenže čelily obrovskému psychickému tlaku a úzkosti, ale také ztratily důvěru ve své spolužáky a některé dokonce přestaly zveřejňovat fotografie online. Některé dívky se rozhodly změnit školu, aby se vyhnuly dalšímu kontaktu s obtěžovateli, a obávaly se, že se škodlivé obrázky mohou kdykoliv znovu objevit.

Legislativa a regulace

Legislativa se snaží dohnat technologický pokrok, aby efektivně chránila oběti a stíhala pachatele. Například americký prezident Joe Biden vyzval zákonodárce k přijetí nových opatření na ochranu před tímto druhem zneužívání. Novinářka Lucia Osborne-Crowley ve svém příspěvku pro The Guardian navrhla regulace omezující weby používané k vytváření a zobrazování deepfake pornografie.

Technologické společnosti, jako je Meta, která vlastní WhatsApp, čelí kritice za nedostatečnou reakci na šíření takového obsahu. WhatsApp prohlásil, že má nulovou toleranci k sexuálnímu vykořisťování a zneužívání dětí, ale otázka použití AI nebyla specificky zmíněna.

Asociace Malvaluna, zastupující rodiny obětí, zdůraznila potřebu lepší sexuální výchovy a vzdělávání o rovnosti mezi pohlavími. Skupina také podporuje přísnější regulace a vzdělávací programy, které by mohly zabránit mladistvým v používání AI k útokům na spolužáky. V tomto duchu vítá soudem nařízené rehabilitační kurzy pro odsouzené nezletilé.

Případ ze Španělska odhaluje naléhavou potřebu komplexního přístupu k řešení problémů spojených s novými technologiemi a jejich zneužíváním, a to jak na legislativní, tak na vzdělávací úrovni.