Přehled případů

Oba případy se týkaly žádostí uživatelů o odstranění AI generovaných obrázků. V prvním případě šlo o Instagramový příspěvek zobrazující nahou Indku. Příspěvek byl nahlášen, ale Meta jej automaticky uzavřela po 48 hodinách, stejně jako následné odvolání uživatele. Nakonec byl příspěvek odstraněn po zásahu Oversight Board, která zrušila původní rozhodnutí Meta nechat obrázek na platformě.

Druhý případ se týkal Facebookového příspěvku ve skupině věnované umění umělé inteligence, který zobrazoval „obrázek nahé ženy s mužem, který jí sápal na prsou, vytvořený umělou inteligencí“. Meta tento příspěvek automaticky odstranila, protože byl identifikován interním systémem. Oversight Board shledala, že Meta udělala vše správně, když příspěvek odstranila.

Zdroj: Shutterstock

Doporučení Oversight Board

Oversight Board zdůraznila, že oba deepfake obrázky porušily pravidla Meta zakazující „hanlivé sexualizované photoshopové“ obrázky. Avšak rada kritizovala, že současná pravidla jsou zastaralá a mohou uživatelům ztížit hlášení explicitních obrázků vytvořených AI. Rada navrhla, aby Meta aktualizovala své zásady tak, aby bylo jasné, že zakazuje nesouhlasné explicitní obrázky vytvořené nebo zmanipulované AI.

„Velká část nekonsensuálních sexualizovaných snímků, které se dnes šíří online, je vytvořena pomocí generativních modelů umělé inteligence, které buď automaticky upravují stávající obrázky, nebo vytvářejí zcela nové,“ uvedla rada. „Společnost Meta by měla zajistit, aby její zákaz hanlivého sexualizovaného obsahu pokryl toto širší pole editačních technik způsobem, který je jasný jak uživatelům, tak moderátorům společnosti.“

Rada rovněž upozornila na praxi Meta automaticky uzavírat odvolání uživatelů, což by podle ní mohlo mít „významný dopad na lidská práva“. Zároveň však uvedla, že nemá dostatek informací o této praxi, aby mohla vydat konkrétní doporučení.

Význam problému

Šíření explicitních obrázků vytvořených AI se stává stále větším problémem. „Deepfake porno“ se v posledních letech stalo rozšířenější formou online obtěžování. V tomto kontextu přichází rozhodnutí Oversight Board jen jeden den po americkém Senátu, který jednomyslně schválil návrh zákona zasahujícího proti explicitním deepfakeům. Pokud by tento zákon prošel, umožnil by obětem žalovat tvůrce takových snímků až o 250 000 dolarů.

Tyto případy nejsou poprvé, kdy Oversight Board přiměl Meta k aktualizaci pravidel pro obsah generovaný AI. V jiném významném případě rada vyšetřovala škodolibě upravené video prezidenta Joea Bidena, což vedlo k přepracování zásad Meta týkajících se označování AI generovaného obsahu.

Meta stojí před výzvou, jak efektivně regulovat obsah generovaný umělou inteligencí a chránit uživatele před zneužitím. Jasná a moderní pravidla jsou klíčem k tomu, aby byla zajištěna bezpečnost a důvěra uživatelů v platformu.