Američtí úředníci ve spolupráci se svými spojenci identifikovali a odstranili ruskou farmu botů, která využívala umělou inteligenci k šíření dezinformací a proruských nálad na sociální síti X. Tato operace zahrnovala téměř 1000 účtů, které byly vytvořeny a provozovány prostřednictvím sofistikovaného softwaru vyvinutého oddělením digitálních médií státem kontrolovaného ruského média RT. Podle informací z Ministerstva spravedlnosti byla iniciativa vedena zástupcem šéfredaktora RT a financována důstojníkem ruské Federální bezpečnostní služby (FSB), nástupce KGB.

Podle FBI a jejich partnerů z Nizozemska a Kanady hrál klíčovou roli nástroj nazvaný „Meliorator“, který dokáže masově generovat autenticky vypadající uživatelské účty na sociálních médiích, tvořit textové zprávy a obrázky, a zrcadlit dezinformace šířené jinými roboty. Vyšetřovatelé zabavili dvě domény, které byly využity k vytvoření e-mailových adres nezbytných pro registraci účtů na platformě X (dříve známé jako Twitter), která se stala útočištěm pro tyto boty.

Zdroj: Shutterstock

Přestože Ministerstvo spravedlnosti dosud lokalizovalo a deaktivovalo 968 účtů, které byly součástí této operace, společnost X nadále spolupracuje s úřady na identifikaci dalších potenciálně škodlivých účtů. Podle zprávy The Washington Post se robotům podařilo obejít bezpečnostní opatření díky možnosti kopírovat a vkládat jednorázová hesla ze svých e-mailových účtů.

Použití doménových jmen registrovaných v USA pro tuto operaci představuje porušení zákona o mezinárodních nouzových ekonomických pravomocích a placení těchto služeb porušuje federální zákony o praní špinavých peněz v USA.

Mnoho z falešných profilů se vydávalo za Američany, přičemž používaly americky znějící jména a nastavovaly své umístění na různá místa v USA. Účty často používaly jako profilové fotografie snímky hlavy na šedém pozadí, což naznačuje, že byly generovány pomocí umělé inteligence. Jeden z účtů, například s jménem Ricardo Abbott, který tvrdil, že pochází z Minneapolisu, sdílel video ruského prezidenta Vladimira Putina ospravedlňujícího ruské akce na Ukrajině.

Další účet pod jménem Sue Williamson zveřejnil video, kde Putin prohlašuje, že válka na Ukrajině není jen o územním konfliktu, ale o zásadách, na nichž bude založen Nový světový řád. Tyto příspěvky byly pak označovány jako „To se mi líbí“ a sdíleny ostatními roboty v síti.

I když byla tato konkrétní farma botů zaměřena na platformu X, analýza nástroje Meliorator ukázala, že autoři měli v plánu rozšířit svou činnost i na další sociální platformy. Zahraniční aktéři šíří politické dezinformace prostřednictvím sociálních médií již několik let. Nyní však přidali do svého arzenálu umělou inteligenci. V květnu například společnost OpenAI oznámila, že odhalila pět skrytých vlivových operací pocházejících z Ruska, Číny, Izraele a Íránu, které využívaly její modely k ovlivňování politických výsledků.

„Rusko mělo v úmyslu využít tuto farmu botů k šíření zahraničních dezinformací generovaných umělou inteligencí a rozšířit svou práci s pomocí AI, aby podkopalo naše partnery na Ukrajině a ovlivnilo geopolitické narativy příznivé pro ruskou vládu,“ uvedl ředitel FBI Christopher Wray. „FBI je odhodlána spolupracovat s našimi partnery a zavádět společné, po sobě jdoucí operace, aby strategicky narušily naše nejnebezpečnější protivníky a jejich použití nejmodernější technologie k nekalým účelům.“