Sociální síť X, dříve známá jako Twitter nyní patří Elonu Muskovi. Právě tato sociální síť se nyní potýká s vážným problémem v podobě falešných účtů. Samotný Elon Musk uznal rozšíření botů na této platformě jako klíčový důvod, proč chtěl ze svého původního plánu akvizice společnosti Twitter ustoupit.

Nový výzkum provedený na Observatory on Social Media při Indian University v Bloomingtonu nyní odhalil komplexní síť krypto botů, která byla nasazena právě na platformě X. Profesor Filippo Menczer a student Kai-Cheng Yang publikovali studii o botnetu s názvem Fox8, jak informoval časopis Wired.

V průběhu letošního května vědci objevili nejméně 1 140 falešných účtů na Twitteru, které systematicky publikovaly tweety s odkazy na pochybné online „zpravodajské“ weby. Tyto weby se většinou zaměřovaly na šíření obsahu převzatého z legitimních zpravodajských zdrojů. Hlavním tématem těchto botů byla kryptoměna, a to zejména hashtagy jako #bitcoin, #crypto a #web3. Tyto účty také aktivně retweetovaly a reagovaly na příspěvky populárních kryptoměnových osobností na Twitteru, například @WatcherGuru, @crypto a @ForbesCrypto.

Zdroj: Shutterstock

Zajímavým faktem bylo, jak tato síť botů dokázala generovat tak velké množství příspěvků. Tuto činnost zajišťovala umělá inteligence, konkrétně ChatGPT, která automaticky vytvářela obsah k publikaci. Cílem těchto příspěvků bylo spamovat platformu Twitter velkým množstvím odkazů na kryptoměnové zprávy, s nadějí, že se tím dostanou k co největšímu počtu legitimních uživatelů, kteří by mohli na odkazy kliknout.

Společnost X později pozastavila tyto účty poté, co byl výzkum zveřejněn v červenci. Filippo Menczer uvedl, že v minulosti informovali Twitter o podobných botech, ale po Muskově akvizici se rozhodli tuto cestu opustit, protože zjistili, že na jejich upozornění nereagoval.

I když nástroje umělé inteligence, jako je ChatGPT, umožnily vlastníkům botnetu generovat obsah pro mnoho účtů, nakonec to přispělo spíše k jejich pádu. Vědci ve své studii rozpoznali vzor používaný těmito účty, konkrétně začínající frází „jako jazykový model AI“. Tuto frázi dobře znají uživatelé ChatGPT, protože tato umělá inteligence ji často přidává k výstupům, u kterých může být možný problém. Výzkumníci zdůraznili, že bez této „nedbalé“ chyby by tento botnet mohl fungovat bez odhalení.