Současná pravidla Googlu již zakazují manipulaci digitálního obsahu s cílem klamat nebo dezinformovat o politice, sociálních tématech a veřejných záležitostech. Novinkou je povinnost označit související reklamy jako obsahující "syntetický obsah", pokud zobrazují reálné nebo realisticky vypadající osoby nebo události. Google navrhuje označení, jako je "tento obrázek nezobrazuje skutečné události" nebo "tento video obsah byl uměle vygenerován", aby upoutala pozornost uživatelů.

Kromě toho jsou v Googlu zakázány prokazatelně falešná tvrzení, která by mohla narušit důvěru v proces volby. Politické reklamy musí také uvádět, kdo za ně zaplatil, a informace o těchto zprávách jsou dostupné v online knihovně reklam. Veškeré digitálně upravené obsahy v reklamách na volby musí být "jasné a zřetelné" a umístěny tak, aby byly snadno viditelné.

Zdroj: Shutterstock

Tato opatření přicházejí poté, co byly veřejnosti prezentovány případy syntetického obsahu v politických kampaních. V březnu se šířila falešná fotografie bývalého prezidenta USA Donalda Trumpa, na níž byl nepravdivě zobrazen jako zadržovaný. Tuto fotografii vytvořila umělá inteligence. Stejně tak se v březnu objevil deepfake video ukrajinského prezidenta Volodymyra Zelenského, který zdánlivě hovořil o kapitulaci před Ruskem.

V červnu zase Ron DeSantis použil ve své kampani obrázky, které byly upraveny pomocí umělé inteligence, aby ukázaly, jak líbá bývalý prezident Trump Anthonyho Fauciho. Experti v oblasti AI varují, že rychlý pokrok v oblasti generativní umělé inteligence může být zneužit a může způsobit další šíření dezinformací.

Google tvrdí, že nadále investuje do technologií, které dokážou detekovat a odstranit tento typ obsahu. Tato opatření Googlu jsou v kontrastu s jinými společnostmi na sociálních médiích. Twitter například nedávno oznámil, že povolí politické reklamy na své platformě, zatímco Meta, mateřská společnost Facebooku, stále hledá způsoby, jak řešit moderaci reklam.

Federální volební komise také začíná přemýšlet o regulaci umělé inteligence ve volbách. Požádala veřejnost o názor ohledně změny pravidla týkajícího se klamavých reklam a zdůraznila, že tato pravidla platí i pro reklamy vytvořené s využitím umělé inteligence. Je zřejmé, že otázky kolem regulace umělé inteligence v politickém prostředí budou i nadále stále důležitější, a to nejen v období před volbami.