Používání AI nástrojů se pro mnoho lidí stalo každodenní rutinou. Řeší se v nich práce, zdraví, finance i osobní rozhodnutí. Právě proto je zjištění bezpečnostních analytiků z firmy Koi znepokojivé. Některá populární rozšíření pro prohlížeče totiž nejsou jen pasivními pomocníky, ale aktivními pozorovateli všeho, co si s umělou inteligencí píšete.

Nejde přitom o žádné složité hackerské techniky. V jádru celého problému je relativně jednoduchý princip. Rozšíření se vloží mezi webovou stránku a samotný prohlížeč. Konkrétně přepíše funkci, kterou prohlížeč používá k odesílání a přijímání dat ze sítě. Jakmile se to stane, veškerá komunikace s AI už neprobíhá přímo, ale přes tento cizí kód.

Zdroj: Shutterstock

Proč je ten kód zásadní

Ukázka kódu, kterou Koi zveřejnila, je v tomto ohledu klíčová. Jde o přepsání funkce fetch, tedy základního mechanismu, kterým moderní weby komunikují se servery. Rozšíření si uloží původní funkci, ale místo ní spustí vlastní obal. Ten nejprve nechá komunikaci proběhnout a zároveň si ji celý okopíruje.

To znamená, že rozšíření vidí kompletní dotaz uživatele i odpověď AI v surové podobě. Nejen text, ale i čas, identifikaci relace a informace o tom, jaký model byl použit. Data se následně odesílají na servery provozovatele rozšíření. A to bez ohledu na to, jestli má uživatel zapnutou VPN, blokování reklam nebo jiné funkce. Kód běží samostatně a tiše.

Zásadní problém je v tom, že uživatel o tomto chování prakticky neví. V popisech rozšíření se mluví o ochraně soukromí nebo bezpečnosti AI. Skutečný rozsah sběru dat je schovaný až hluboko v dlouhých právních textech, které většina lidí nikdy nečte. Přesto se právě tam objevují formulace o sběru promptů a odpovědí pro analytické a marketingové účely.