Pokud máte účet na Facebooku, tak jste určitě zaregistrovali funkci návrh na přátelství, kde se objevují lidé, které vůbec neznáte. Facebook vám totiž nabízí návrhy přátel, o kterých si myslí, že si máte spolu co říct, protože máte společné zájmy.

Tím vlastně pomáhá určitým skupinám lidí, kteří se tak mohou spojit. Podle expertů z neziskové organizace Counter Extremism Project (CEP) se tato funkce obrátila proti Facebooku, který bojuje s různými projevy extrémismu na sociální síti, když nechtěně návrhy na přátelství spojují dohromady budoucí teroristy.

Výzkumníci analyzovali aktivity tisícovky fanoušků Islámského státu z 96 zemí a zjistili, že tito radikálové se nejčastěji seznamují díky FB funkci navrhování přátel. Má to fungovat tak, že fejsbukové AI algoritmy vyhodnotí stejné zájmy extrémistů, v tomto případě sympatizanty Islámského státu, a formou navrhnutí přátelství je tak nechtěně spojí. Pro organizaci ISIS/ISIL se tato metoda stává užitečným verbovacím nástrojem do řad Islámského státu.

Facebook ve své touze spojit co nejvíce lidí vytvořil neúmyslně systém, který pomáhá spojit extrémisty a teroristy. Na druhou stranu jde Facebook tvrdě proti jakýmkoliv formám extrémismu ve své síti. Za tímto účelem zaměstnává lidské moderátory a zapojuje AI algoritmy určené pro potírání radikálního obsahu a extrémistů na síti.

Zatím to ale má k dokonalosti daleko, protože podle výzkumníků z CEP zrušil FB z tisícovky účtů radikálů, které CEP sledovala méně než polovinu.