Google Gemini se během bezpečnostního testování dostalo tam, kam rozhodně nemělo. Modely společnosti Google v květnu 2026 pronikly do systémů tří skutečných firem, přestože měly plnit úkoly pouze uvnitř kontrolovaného testovacího prostředí.

Testování zajišťovala izraelská bezpečnostní společnost Irregular, dříve známá jako Pattern Labs. Firmu založili Dan Lahav a Omer Nevo a zaměřuje se právě na prověřování schopností nejvýkonnějších AI modelů. Gemini mělo v rámci úlohy typu capture the flag získat informace ze softwaru fiktivní společnosti.

Fiktivní firma měla stejné jméno jako skutečná

Problém nastal ve chvíli, kdy bylo testovacímu prostředí neúmyslně umožněno připojení k internetu. Název smyšlené společnosti se navíc shodoval s názvem reálné firmy. Gemini proto začalo považovat její systémy za legitimní součást testu.

Podle zjištění The Wall Street Journal se v jednom případě model dostal do chráněného systému hádáním přihlašovacích údajů. Ve dvou dalších případech našel přístupové údaje ve veřejném repozitáři a následně je použil k přihlášení. Celkem tak zasáhl systémy tří skutečných společností.

Google tvrdí, že Gemini ve všech třech případech další aktivitu ukončilo poté, co rozpoznalo, že se nejedná o testovací cíle. Firma zároveň uvedla, že při incidentech nevznikla žádná škoda. Jména zasažených společností ani přesnou verzi Gemini Google nezveřejnil.

Incident zůstal několik týdnů neveřejný

Irregular informoval dotčené AI laboratoře na konci července a následně upravil zabezpečení svého testovacího prostředí. Google potvrdil, že kontaktoval všechny tři zasažené subjekty a s Irregular pracoval na změnách testovacích postupů.

Heather Adkins, viceprezidentka Googlu pro bezpečnostní inženýrství, uvedla, že podobné události zdůrazňují význam odpovědného trénování výkonných jazykových modelů. Google incident původně veřejně neoznámil, protože podle společnosti modely svou činnost samy zastavily a nezpůsobily škodu.