Nasazování umělé inteligence v podnicích probíhá rychleji než kdy dřív. AI nástroje se stávají běžnou součástí cloudových služeb, vývojových platforem i interních systémů. Jenže právě tato rychlost začíná narážet na své limity. Bezpečnostní experti upozorňují, že firmy často zavádějí nové AI služby dřív, než vůbec přesně vědí, jaká data zpracovávají, kam mají přístup a kdo je vlastně ovládá.

Podle aktuální bezpečnostní zprávy společnosti Palo Alto Networks dnes více než 70 procent organizací používá AI cloudové služby přímo v produkčním provozu. Meziročně jde o výrazný nárůst a zároveň o zásadní změnu v tom, jak vypadá rizikový profil cloudu. AI totiž není jen další aplikace. Je to technologie, která potřebuje data, propojení na další systémy a často velmi široká oprávnění.

Problém není v malwaru, ale v přístupech

Jedním z nejzásadnějších zjištění je fakt, že naprostá většina bezpečnostních incidentů v cloudu dnes nesouvisí s klasickým malwarem. Až 80 procent problémů má podle výzkumu původ v chybně nastavených identitách a oprávněních. Jinými slovy, útočník se do systému nedostane proto, že by ho prolomil, ale proto, že mu to prostředí samo umožní.

Zdroj: Shutterstock

AI služby často dostávají širší přístup, než by bylo nezbytné. Firmy jim přidělují oprávnění k úložištím, databázím, aplikačním rozhraním nebo interním nástrojům bez detailní kontroly. V kombinaci s rychlým vývojem a tlakem na nasazení nových funkcí vzniká prostředí, kde je bezpečnost až na druhé koleji.

Dalším častým problémem jsou špatné konfigurace. Úložiště ponechaná veřejně dostupná, otevřené trénovací pipeline nebo nedostatečně chráněné databáze nejsou výjimkou. Útočníci se přitom stále častěji zaměřují právě na tato slabá místa místo složitých technických útoků.

Neviditelná armáda účtů bez kontroly

Zásadní roli v nových rizicích hrají takzvané ne-lidské identity. Jde o servisní účty, API klíče, automatizační tokeny nebo účty používané samotnými AI systémy. V mnoha cloudových prostředích jich je dnes více než běžných uživatelských účtů. Přesto jim firmy často nevěnují dostatečnou pozornost.

Tyto identity bývají dlouhodobě aktivní, málokdy se mění jejich přístupové údaje a jejich aktivita se špatně přiřazuje ke konkrétnímu účelu. Pro útočníka představují ideální vstupní bod. Pokud získá přístup k takovému účtu, může se v systému pohybovat nenápadně a dlouhou dobu bez povšimnutí.

S nástupem velkých jazykových modelů a autonomnějších AI systémů se navíc rozšiřuje samotná plocha útoku. Nejde už jen o infrastrukturu, ale i o samotné modely, jejich paměť, data, se kterými pracují, a akce, které dokážou samostatně provádět. Každá z těchto oblastí může být zneužita, pokud není správně zabezpečená.