S rozvojem generativní umělé inteligence se na sociálních sítích stále častěji objevují realisticky vypadající videa, která ve skutečnosti nikdy nevznikla. Největší problém nastává ve chvíli, kdy takový obsah simuluje válečné události. Právě na tento fenomén nyní reaguje sociální síť X.

Platforma oznámila, že začne trestat tvůrce, kteří publikují videa z ozbrojených konfliktů vytvořená pomocí AI, aniž by jasně uvedli, že jde o uměle generovaný obsah. Pokud takové video zveřejní bez označení, přijdou na 90 dní o možnost vydělávat prostřednictvím programu Creator Revenue Sharing.

Informaci zveřejnil šéf produktového oddělení X Nikita Bier. Podle něj je v době válek zásadní, aby měli lidé přístup k ověřeným informacím z terénu. Moderní nástroje umělé inteligence však umožňují během několika minut vytvořit záběry, které mohou vypadat naprosto věrohodně a přitom jsou zcela smyšlené.

Platforma proto zavádí jednoduché pravidlo. Pokud je video vytvořeno pomocí AI a zobrazuje ozbrojený konflikt, musí být jasně označeno jako generovaný obsah. V opačném případě přijde autor o finanční odměny z platformy.

Sankce mohou být i trvalé

Trest ale nemusí skončit jen dočasnou sankcí. Pokud se tvůrce po uplynutí devadesátidenního zákazu vrátí ke stejnému chování a bude dál publikovat zavádějící AI obsah bez označení, může být z programu vyřazen natrvalo.

X chce problematické příspěvky odhalovat kombinací několika nástrojů. Vedle technologií pro detekci generativního obsahu se bude opírat také o systém Community Notes. Ten umožňuje uživatelům doplňovat k příspěvkům vysvětlení a upozornění na nepravdivé nebo zavádějící informace.

Program Creator Revenue Sharing byl na X spuštěn jako způsob, jak motivovat uživatele k publikování populárního obsahu. Tvůrci mohou získat podíl z reklamních příjmů, pokud jejich příspěvky generují velkou interakci. Kritici ale dlouhodobě upozorňují, že systém zároveň podporuje publikování senzacechtivých a kontroverzních příspěvků.

Právě realistická AI videa z válek patří mezi obsah, který může rychle získat velkou pozornost. Pro některé tvůrce tak vznikla motivace zveřejňovat dramatické, ale smyšlené záběry, které se šíří sociálními sítěmi ještě dříve, než je někdo stihne ověřit.

Nové opatření má za cíl omezit alespoň finanční motivaci pro šíření takového obsahu. Zároveň však řeší jen úzkou část problému. Umělá inteligence se totiž běžně používá i k vytváření politických manipulací nebo klamavé reklamy, na které se nové pravidlo zatím bohužel nevztahuje.