Model Capability Initiative byl spuštěn letos v dubnu. Jeho hlavním účelem bylo získávat reálná data o tom, jak lidé pracují s počítačem, aby se jazykové modely naučily lépe napodobovat běžné uživatelské chování. Šlo například o používání klávesových zkratek, práci s rozbalovacími nabídkami nebo další každodenní úkony, které jsou pro člověka samozřejmé, ale pro AI představují složitější úkol.

V interním oznámení Meta tehdy uvedla, že do zlepšování svých modelů může přispět každý zaměstnanec jednoduše tím, že bude vykonávat svou běžnou pracovní činnost. Data získaná během práce měla sloužit výhradně k vývoji a zdokonalování firemních AI systémů.

Situace se však změnila poté, co jeden ze zaměstnanců podal hlášení o bezpečnostním incidentu s nejvyšší prioritou. Podle informací agentury Reuters měl program zaznamenávat nejen pohyb myši nebo pracovní postupy, ale také kompletní texty zadávaných promptů, přepisy komunikace, soukromé konverzace, údaje o zaměstnancích a jejich pracovním výkonu či interní klasifikaci citlivosti dokumentů.

Ještě závažnější je tvrzení, že některá z těchto dat byla ukládána v nezašifrované podobě. Zaměstnanec ve svém hlášení uvedl, že prostřednictvím pracovního počítače mohl přistupovat například k osobním daňovým přiznáním nebo zdravotním údajům, stejně jako tisíce dalších zaměstnanců. Podle jeho slov přitom byli pracovníci ujišťováni, že všechna data projdou důkladným filtrováním, budou chráněna a využita pouze pro oprávněné firemní účely.

Meta nyní potvrdila, že program preventivně pozastavila a zahájila vnitřní vyšetřování. Mluvčí společnosti Tracy Clayton uvedla, že MCI byl od začátku navržen s ohledem na ochranu soukromí a že firma zatím nemá žádné důkazy o tom, že by zaměstnanci k citlivým datům přistupovali neoprávněně. Přesto se společnost rozhodla projekt dočasně zastavit, dokud neprověří všechna vznesená podezření.

Firma zároveň upozornila, že vypnutí programu nebude okamžité. Kvůli rozsahu interních systémů může nějakou dobu trvat, než bude deaktivován pro všechny zaměstnance. Agentura Reuters proto ještě v pondělí odpoledne potvrdila, že někteří pracovníci měli program stále aktivní.

Kauza přichází v době, kdy technologické korporace stále intenzivněji hledají nové způsoby, jak získávat další a další data od lidí pro vývoj generativní AI. Zároveň ale znovu otevírá otázky týkající se ochrany soukromí zaměstnanců, transparentnosti podobných projektů a hranic mezi vývojem AI a sběrem osobních dat.