Společnost Facebook oznámila zavedení rozsáhlého systému s funkcí strojového učení nazvaného Rosetta. Tento systém umělé inteligence je schopen odhalit nevhodný či škodlivý obsah umístěný na Facebook jako součást nějakého obrázku či videa.

Nejedná se o žádný myšlenkový koncept naplano vypuštěný z úst Facebooku. V příspěvku na  blogu Facebook popisuje, jak je algoritmus schopný detekovat text např. na fotografii.

Tento boj proti nevhodným zprávám nebo Fake News může částečně souviset se zjištěním, že si stále více Američanů maže ze svého mobilního telefonu aplikaci Facebook z obavy, že je plná Fake News popř. nevhodného obsahu. Jedna ze studií si dokonce odváží tvrdit, že se jedná o 26 % Američanů (ačkoliv bere v potaz pouze smazání, nikoliv případnou opětovnou instalaci).

Tento fenomén odstartovali poslední volby. Facebooku se to logicky nelíbí a chce přesvědčit své bývalé uživatele, že dělá vše proto, aby se Fake News zbavil.

U Rosetty AI je diagnostika rozdělena do dvoufázového procesu: jako první se pomocí technologie OCR analyzují obrázky a videa, kde by mohl být potencionálně umístěn nevhodný či škodlivý obsah; druhou fází pak je odeslání dat do systému a následná identifikace textu na obrázku (systém se snaží pochopit, co daný text vyjadřuje).

V případě nějakého podezření je tento obrázek nebo video předán příslušnému týmu na prošetření. Tento model Rosetty není však určen pouze pro anglický jazyk, protože Facebook konstatoval, že podporuje různé jazyky a kódování, včetně arabštiny a hindštiny.

Speciální týmy lidí již spustili tento systém nejen na Facebooku, ale i na Instagramu. Chtějí zlepšit kvalitu vyhledávání fotografií a identifikaci nevhodných nebo nenávistných projevů. Rosetta tak v současném stavu sbírá data a tím se učí a zdokonaluje. 

Facebook však nečeká vůbec lehký boj. Každý den je totiž do sociálních sítí odesláno zhruba 350 milionů fotografií. Otázka je, zda Facebook dokáže všechny zkontrolovat a analyzovat, resp. každé věnovat takový čas, který je potřeba. Odhalení některých skrytých nenávistných projevů může být zároveň dost obtížné.