ChatGPT čelil zranitelnosti, která mohla odhalit soukromá data z Gmailu

Umělá inteligence se během několika posledních let pevně zabydlela ve firemním prostředí. ChatGPT a jeho specializovaní agenti analyzují e-maily, pomáhají s CRM systémy nebo třídí interní dokumenty. To vše šetří čas a urychluje rozhodování. Jenže spolu s rostoucím využíváním přichází i nová rizika. Nedávno objevená zranitelnost ShadowLeak ukazuje, že ani sofistikované AI nástroje nejsou stoprocentně bezpečné.

ShadowLeak se odlišuje od většiny známých útoků jednou podstatnou věcí: Uživatel nemusí udělat vůbec nic. Jde o takzvaný zero-click exploit, který funguje na pozadí přímo v cloudové infrastruktuře. Bezpečnostní firma Radware popsala, že data se nekradou z uživatelského zařízení, ale přímo ze serverů OpenAI. „Je to učebnicový příklad zero-click útoku,“ uvedl technický ředitel Radware David Aviv.

Demonstrace ukázala, že stačí i zdánlivě obyčejný e-mail s ukrytými instrukcemi. Deep Research agent, jenž zprávu vyhodnocuje, může v dobré víře provést kroky, které ve výsledku předají data útočníkovi. Celý proces se odehrává bez vědomí koncového uživatele a prakticky bez stopy.

Problém je vážný i proto, že ChatGPT dnes používají miliony firem. V sázce nejsou jen marketingová data, ale i obchodní strategie, osobní údaje zákazníků nebo interní komunikace. Na rozdíl od útoků na lokální počítače tu neexistují běžné logy, které by mohly na incident upozornit.

Odborníci proto doporučují, aby se podniky nespoléhaly výhradně na bezpečnost poskytovatele. Vícevrstvá ochrana, přísná pravidla pro přístupy a pravidelné audity chování AI agentů jsou podle nich nezbytné. K tomu je nutné přidat i klasické postupy – antivirovou ochranu, monitoring síťového provozu nebo prevenci proti ransomwaru.

Podstatnou roli ale stále hraje člověk. „AI-driven procesy otevírají nové cesty pro zneužití, které tradiční bezpečnostní nástroje nezachytí,“ varuje Pascal Geenens z Radware. Právě proto musí IT týmy nejen sledovat technickou stránku, ale i školit zaměstnance a upozorňovat je na možné scénáře zneužití.

ShadowLeak je tak varováním, že pohodlí a rychlost, které umělá inteligence přináší, musí být vyváženy důslednými bezpečnostními opatřeními. Firmy by si měly uvědomit, že zodpovědnost neleží jen na poskytovateli služby – část ochrany je vždy na jejich bedrech.