OpenAI začala rozšiřovat Lockdown Mode, tedy volitelný bezpečnostní režim pro ChatGPT, který má lépe chránit citlivá data před útoky typu prompt injection. Nejde o běžný přepínač soukromí ani o funkci, kterou by potřeboval každý uživatel. Spíše míří na lidi a organizace, které v ChatGPT pracují s hodnotnými nebo citlivými informacemi a chtějí snížit riziko, že se přes připojené funkce dostane něco ven.

Na novinku upozornil Anthony Ha z TechCrunchu. Podle dokumentace OpenAI se Lockdown Mode nyní rozšiřuje na vybrané osobní účty a samoobslužné účty ChatGPT Business. Uživatel jej má najít v nastavení zabezpečení. Původně OpenAI funkci představila hlavně pro firemní nasazení, kde se počítá s vyšším rizikem cílených útoků na vedení firem, bezpečnostní týmy nebo pracovníky s přístupem k interním datům.

Proč je prompt injection tak nepříjemný problém

Prompt injection je typ útoku, při kterém útočník ukryje škodlivé instrukce do webové stránky, dokumentu, e-mailu nebo jiného obsahu, který si AI přečte. Model pak může začít jednat podle cizí instrukce místo podle záměru uživatele. V praxi nejde jen o podivnou odpověď. U nástrojů napojených na web, aplikace, soubory nebo agenty vzniká riziko, že se citlivé informace odešlou mimo konverzaci.

Lockdown Mode proto omezuje hlavně cesty, kterými by se data mohla dostat ven. V režimu uzamčení ChatGPT nepoužívá živé webové procházení v běžném smyslu, ale pouze omezený přístup ke kešovanému obsahu. Vypíná se také Deep Research, Agent Mode, zobrazování a načítání obrázků z webu, síťový přístup z Canvasu a některé možnosti práce se soubory. Generování obrázků zůstává dostupné tam, kde ho účet podporuje, protože nejde o totéž jako stahování nebo zobrazování obrázků z cizích webů.

OpenAI zároveň výslovně upozorňuje, že Lockdown Mode není neprůstřelný štít. Skrytá instrukce se může objevit i v nahraném souboru nebo v kešovaném obsahu a pořád může ovlivnit přesnost odpovědi. Režim má hlavně zmenšit prostor pro únik dat, ne vyřešit celý problém prompt injection jednou provždy.