Používání umělé inteligence ve státní správě má urychlovat práci a zjednodušovat procesy. V USA ale teď řeší případ, který ukazuje i druhou stranu mince. Podle zjištění serveru Politico došlo k tomu, že vrcholný představitel americké kyberobrany nahrál citlivé dokumenty do veřejně dostupného nástroje ChatGPT.

Incident se týká Madhu Gottumukkala, úřadujícího ředitele Cybersecurity and Infrastructure Security Agency (CISA). Ten měl krátce po nástupu do funkce využít veřejnou verzi ChatGPT k práci s dokumenty, které byly označeny jako „for official use only“. Nešlo tedy o přísně tajné materiály, přesto o informace, které nemají opustit vládní systémy.

Když ochranné systémy zafungují, ale pozdě

Podle zdrojů obeznámených s případem se okamžitě spustily interní bezpečnostní mechanismy ministerstva vnitřní bezpečnosti Department of Homeland Security. Ty jsou navržené tak, aby zabránily nechtěnému úniku dat mimo federální sítě. V tomto případě ale už bylo pozdě. Dokumenty se dostaly do veřejného AI nástroje, kde nelze s jistotou říct, jak s nimi bylo dále naloženo.

Běžní zaměstnanci DHS přitom k ChatGPT přístup nemají. Používají schválené interní nástroje, které zajišťují, že zadaná data zůstávají uvnitř vládní infrastruktury. Gottumukkala si podle informací Politica vyžádal výjimku, kterou krátce poté využil způsobem, jenž vyvolal silnou kritiku i uvnitř úřadu.

Označení „for official use only“ se v USA používá pro citlivé, ale neutajované informace. Jejich únik může ohrozit soukromí osob, chod programů důležitých pro stát nebo bezpečnostní postupy. Právě proto případ vyvolal obavy, že se obsah mohl nepřímo promítnout do odpovědí AI pro další uživatele.

Tlak, chaos a ztráta důvěry

Celý incident zapadá do širšího obrazu problémů, kterým CISA v posledních měsících čelí. Gottumukkala převzal vedení úřadu v době personálních škrtů a politických sporů. Nominace stálého ředitele zablokoval Senát a úřad tak funguje v provizoriu. Podle médií odešly nebo byly přeřazeny desítky zkušených zaměstnanců, což oslabuje instituci, která má chránit kritickou infrastrukturu i volby.

Případ s ChatGPT navíc není jediným kontroverzním bodem. V Kongresu čelil Gottumukkala otázkám ohledně připravenosti úřadu na kyberútoky během nadcházejících voleb. Kritiku vyvolala i jeho neochota uvést konkrétní odhady hrozeb. Další pochybnosti přinesly informace o sporech s vlastním IT vedením a o nejasnostech kolem bezpečnostních prověrek.

Oficiální vyjádření CISA zdůrazňuje, že použití ChatGPT bylo krátkodobé a proběhlo s určitými omezeními. Zároveň se odvolává na snahu federální vlády zavádět moderní technologie v souladu s politikou administrativy Donald Trump. Kritici ale namítají, že právě vedení kyberbezpečnostního úřadu by mělo jít příkladem v opatrnosti.