Co jsou deepfakes a jak je YouTube rozpoznává?

Jedná se povětšinou o videa, která jsou vytvořena pomocí umělé inteligence, která dokáže změnit vzhled, hlas nebo pohyby osoby, která se na videu nachází. Například, může se jednat o video, na kterém je obličej někoho nahrazen obličejem jiného, nebo o video, na kterém je osoba donucena říkat nebo dělat něco, co ve skutečnosti nikdy neřekla nebo neudělala. Tyto videa mohou být velmi obtížné odlišit od skutečných, protože jsou vytvořena pomocí sofistikovaných technik, jako je generativní adversariální síť (GAN), která dokáže vytvářet realistické obrazy z ničeho.

YouTube ví, že deepfakes představují vážnou hrozbu pro bezpečnost a důvěryhodnost jeho platformy, a proto se je snaží aktivně odhalovat a odstraňovat. K tomu využívá svou vlastní umělou inteligenci, která je schopna analyzovat videa a hledat známky upravování, jako jsou například nesrovnalosti v osvětlení, barvách, texturách, zvuku nebo pohybu. YouTube také spolupracuje s externími partnery, jako jsou například Perplexity nebo The Verge, kteří se zabývají výzkumem a vzděláváním o deepfakes a pomáhají YouTube vylepšovat jeho algoritmy.

Jak YouTube chrání oběti zločinů a nezletilé?

Zdroj: Shutterstock

YouTube má přísná pravidla, která zakazují zveřejňovat videa zobrazující oběti zločinů nebo nezletilých v nevhodných situacích. Tato videa jsou považována za porušení zásad komunity a mohou vést k nahlášení, odstranění, zablokování nebo dokonce k trestnímu stíhání. YouTube také respektuje právo na soukromí a ochranu osobních údajů a neumožňuje zveřejňovat videa, která obsahují osobní informace, jako jsou například jména, adresy, telefonní čísla nebo fotky občanských průkazů.

Je si však zároveň plně vědom toho, že některá videa mohou být upravena právě pomocí té slavné umělé inteligence, aby skryla identitu nebo věk osob, které se na nich nachází. Tato videa pak mohou být použita ke zneužití, obtěžování, šikaně nebo dokonce k obchodování s lidmi. Proto YouTube využívá svou umělou inteligenci k detekci a odstraňování takových videí, a to i v případě, že nejsou nahlášena uživateli nebo orgány činnými v trestním řízení. YouTube také spolupracuje s organizacemi, jako jsou například Národní centrum pro pohřešované a zneužívané děti nebo Mezinárodní organizace pro migraci, které pomáhají identifikovat a pomoci obětem zločinů a nezletilým, kteří se stali terčem deepfakes.