ChatGPT začne v EU tajně značit své texty. Pouhým okem to nepoznáte
Neviditelný vodoznak ChatGPT začne OpenAI v Evropské unii zavádět během několika příštích týdnů. Změna se dotkne způsobilých textů vytvořených v ChatGPT i Codexu a firma ji zavádí kvůli pravidlům evropského AI Actu.
Čtenář přitom v hotovém textu nic zvláštního neuvidí. Nejde o skryté znaky, neviditelné mezery ani metadata, která by šla odhalit jednoduchým zkopírováním textu do editoru. OpenAI vyvinulo vlastní technologii textGrain. Ta při generování mírně ovlivňuje, jaká slova model z několika možných variant zvolí.
V delším textu tak vznikne statistický vzorec. Speciální detektor může následně určit, zda se v něm stopa typická pro textGrain nachází.
Přepsání několika vět už dělá rozdíl
Právě tady ale přichází největší slabina celého systému. OpenAI zveřejnilo vlastní výsledky testování a ty ukazují, že vodoznak není zdaleka nezničitelný. U textů dlouhých přibližně 400 tokenů dokázal detektor za testovacích podmínek najít značku zhruba v 95 procentech případů. U 200 tokenů úspěšnost klesla přibližně na 80 procent.
Ještě zajímavější je, co udělá obyčejná editace. Při nahrazení deseti procent slov synonymy klesla v jednom z testů úspěšnost detekce z přibližně 92 na 66 procent. Po změně čtvrtiny slov už detektor našel značku pouze v 17 procentech případů.
Vodoznak proto rozhodně nebude možné používat jako nezpochybnitelný důkaz, že konkrétní text napsala umělá inteligence. OpenAI samo upozorňuje na možnost falešně pozitivních i falešně negativních výsledků.
Vodoznak neprozradí, kdo ChatGPT použil
Systém navíc neukládá do textu identitu uživatele ani jeho účet. Detektor tedy nemá umět zjistit, kdo text vytvořil, jaký prompt použil nebo z jaké konverzace pochází. Neřekne ani to, jak velkou část práce odvedl člověk. Uživatel může například s ChatGPT připravit podklady, následně celý text přepsat a doplnit vlastní informace. Samotná přítomnost značky tuto práci nijak nezměří.
OpenAI proto zatím ani nechce dát svůj detektor volně k dispozici veřejnosti. Přístup mají v první fázi získat vybraní výzkumníci a odborné organizace. Značení se navíc nebude vztahovat úplně na všechno. Krátké texty pod hranicí 200 tokenů a úryvky programového kódu patří mezi případy, kde evropská pravidla s povinným vodoznakem nepočítají. Mimo Evropskou unii OpenAI plošné značení při spuštění nezavádí. Zákazníci API si však mohou textGrain u podporovaných modelů zapnout dobrovolně po celém světě.
















