Hlavním cílem je umožnit bezpečnější sdílení uměle vygenerovaného textu, videa, audia a obrázků. Návrh vodotisku by měl umožnit uživatelům trasování původu obsahu a způsobu jeho generování pomocí umělé inteligence. Zatím není jasně stanoveno, jak bude samotný vodotisk fungovat, ale pravděpodobně bude zakomponován přímo do obsahu.

Deepfake se stává stále větším problémem jak pro uživatele internetu, tak i pro politické orgány. Technologické společnosti se snaží najít řešení, jak se vyrovnat s kontroverzním používáním nástrojů umělé inteligence. Nedávno byla například veřejnosti prezentována řada falešných obrázků zatčení Donalda Trumpa, které byly vyrobeny nástrojem na generování obrázků Midjourney a rychle se staly virálními.

I když bylo mnoha lidem zřejmé, že se jedná o falešné obrázky, tvůrce Midjourney se rozhodl zakročit a zablokovat uživatele, který je vytvořil. Možná by v tomto případě vodotisky ochránily tvůrce Eliota Higginse, zakladateli organizace Bellingcat, v následcích, které ho postihly. Higgins tvrdil, že se nesnažil klamat, ale pouze si hrál s nástrojem Midjourney.

Zdroj: Shutterstock

Nicméně existují i vážnější zneužití nástrojů umělé inteligence, kde by mohl vodotisk pomoci chránit internetové uživatele před případnými problémy a manipulací. V průběhu tohoto roku roku bylo například zveřejněno, že softwarové nástroje generující hlas mohly být použity k podvodům, při nichž byli lidé okradeni o tisíce dolarů. FBI také nedávno varovala před rostoucím používáním deepfake generovaných děl umělou inteligencí v rámci vydírání za účelem získání sexuálně explicitních materiálů.

Umístění vodotisku na obsah generovaný umělou inteligencí by mělo "podpořit kreativitu AI a současně snížit rizika podvodů a dezinformací," uvedl Bílý dům ve svém prohlášení. Společnost OpenAI také oznámila, že vyvinou robustní mechanismy, včetně zabezpečení původu a/nebo systému vodotisku pro zvukový a vizuální obsah, a poskytnou nástroje nebo API pro zjištění, zda byl konkrétní obsah vytvořen s jejich systémem umělé inteligence. Tato pravidla budou platit pro většinu AI-generovaného obsahu, s výjimkou základních hlasů asistentů, které nebudou vodotisky označeny.

Google se rovněž zavázal, že kromě vodotisků bude také "integrovat metadata" a "další inovativní techniky", aby podporoval důvěryhodné informace.

Z obav o zneužití umělé inteligence se prezident Joe Biden sešel s představiteli technologických společností. Tato schůzka má pomoci Bidenovi a Kongresu získat klíčové poznatky před vydáním exekutivního nařízení a příslušných legislativních opatření, která mají převzít kontrolu nad rychle se rozvíjejícími technologiemi umělé inteligence.

Kromě vodotisků na AI-generovaný obsah technologické společnosti učinily řadu dalších dobrovolných závazků, o kterých informoval Bílý dům. Patří mezi ně provádění interního a externího testování na systémech AI před jejich uvedením na trh, investice do kybernetické bezpečnosti a sdílení informací napříč průmyslem s cílem snížit rizika AI, včetně biasu nebo diskriminace, a usnadnit vývoj pokročilých zbraní. Společnost Microsoft navíc zdůraz