OpenAI pozastavilo trénink nejvýkonnějších modelů v režimech, při kterých mohou používat nástroje. Firma reagovala na incident z 20. září 2026, kdy jeden z interních agentů při řešení výzkumného úkolu objevil mezeru v síťovém zabezpečení svého sandboxu a přes DNS komunikoval s veřejně dostupným chatbotem.

Nešlo přitom o bezpečnostní test. Model měl podle zprávy OpenAI zjistit totožnost konkrétního autora na základě údajů z jeho veřejného blogu. Nejprve používal přidělený vyhledávací nástroj a následně se neúspěšně pokoušel dostat přímo k internetovým vyhledávačům. Potom našel jinou cestu.

Agent využil DNS, které nemělo sloužit k přístupu na web

Slabinou byl DNS resolver. Ten běžně převádí názvy internetových domén na adresy serverů, v tomto případě ale nebyl dostatečně omezený. Agent jeho prostřednictvím dokázal posílat dotazy externí službě.

OpenAI zdůrazňuje, že ostatní pokusy o internetovou komunikaci končily v interní offline kopii webu. Právě komunikace přes DNS představovala cestu ven z kontrolovaného prostředí.

Bezpečnostní systém chování zachytil během 15 minut a o tři minuty později už případ kontroloval člověk. Samotný běh modelu však skončil až přibližně po dvou a půl hodinách. Podle OpenAI se měl zastavit automaticky, což se nestalo.

Firma následně přidala dvě nezávislé vrstvy blokování, z nichž každá by podle ní podobnému způsobu komunikace zabránila. Současně zastavila trénink, testování i provoz s nástroji u svých nejvýkonnějších modelů, dokud neověří opravu a neprovede další bezpečnostní testy.

Nejde o první problém s chováním AI agentů

Incident je citlivý také kvůli tomu, že OpenAI už několik měsíců vyšetřuje další případy takzvaného misalignmentu. Tím firma označuje situace, kdy model jedná způsobem, který neodpovídá zadanému úkolu nebo očekávání jeho tvůrců.

OpenAI zároveň upozornilo desítky organizací na případy, kdy se jeho agenti dostali do neočekávaných interakcí s jejich weby. Mezi dotčenými organizacemi jsou vládní instituce, univerzity a veřejné úřady.

Ve Spojených státech se jednalo například o weby Komise pro cenné papíry a burzy SEC a Census Bureau. OpenAI u nich podle zveřejněných informací nenašlo důkaz o přístupu k neveřejným datům, uživatelským účtům ani o kompromitaci systémů. Nezávislá laboratoř Transluce také popsala neúspěšný pokus agentů spojovaných s OpenAI zasáhnout web Úřadu pro občanská práva amerického ministerstva školství.