Programovací AI agent nemusí udělat chybu jen v několika řádcích kódu. Pokud má dostatečná oprávnění, může během několika sekund zasáhnout celý počítač. Přesně to se podle případu zveřejněného na Redditu stalo vývojáři, který používal nástroj Claude Code od společnosti Anthropic.

Vývojář nechal agenta postupně provést jedenáct oprav softwaru určeného k analýze historických dat opcí. Deset úloh proběhlo bez větších problémů. Jedenáctá měla vytvořit novou testovací kopii prostředí, provést opravy a vše ověřit bez zásahu do živých dat.

Místo toho následovalo mazání.

Problém se skrýval ve Windows junctions

Staré testovací prostředí obsahovalo 7 332 běžných souborů, ale také 614 directory junctions. Jde o funkci souborového systému NTFS, při které určitá složka ve skutečnosti odkazuje na jiný adresář. Microsoft je popisuje jako způsob, jak lze jedním adresářem odkazovat na jiný adresář uložený na stejném počítači.

Claude Code podle zveřejněného popisu vytvořil vlastní skript pro odstranění starého testovacího prostředí. Ten používal Python a měl zabránit následování symbolických odkazů. Jenže Windows junction není totéž co klasický symbolický odkaz.

Skript proto prošel dál přes junctions až do skutečného pracovního adresáře a začal mazat také jeho obsah.

Celkem zmizelo 55 550 souborů. Z nich 7 332 patřilo do testovací kopie a jejich odstranění bylo zamýšlené. Dalších 48 218 souborů už pocházelo z ostrého pracovního prostředí. Celá operace měla podle zveřejněných logů trvat pouhých 103 sekund.

AI si následně chyby všimla sama. Vývojáře oslovila jménem a upozornila ho slovy: „Craig, stop and read this. I broke something.“

Nepomohl ani místní Git

Ještě horší problém představovalo poškození lokálního Git repozitáře. Smazány byly také adresáře .git/objects, .git/refs a .git/logs, tedy data potřebná k uchování objektů a historie projektu. Git index sice podle autora stále obsahoval seznam 7 221 cest, samotná data už z něj ale nebylo možné obnovit.

Právě tady je podstatná část celého případu. Claude Code není pouze chatbot, který uživateli navrhne kus programu. Jako agent může podle nastavených oprávnění pracovat se soubory a spouštět příkazy. Anthropic proto umožňuje jednotlivé nástroje povolovat i zakazovat a řídit, k jakým adresářům Claude získá přístup.