CDR.cz - Vybráno z IT

ChatGPT začne v EU tajně značit své texty. Pouhým okem to nepoznáte

Zdroj: ChatGPT

Texty z ChatGPT dostanou v Evropské unii neviditelný vodoznak. OpenAI začne během několika týdnů nasazovat technologii textGrain, která mění způsob, jakým model vybírá jednotlivá slova. Má to ale jeden háček. Úpravy textu dokážou stopu rychle oslabit.
Přidejte si CDR do oblíbených na Google News

Neviditelný vodoznak ChatGPT začne OpenAI v Evropské unii zavádět během několika příštích týdnů. Změna se dotkne způsobilých textů vytvořených v ChatGPT i Codexu a firma ji zavádí kvůli pravidlům evropského AI Actu.

Čtenář přitom v hotovém textu nic zvláštního neuvidí. Nejde o skryté znaky, neviditelné mezery ani metadata, která by šla odhalit jednoduchým zkopírováním textu do editoru. OpenAI vyvinulo vlastní technologii textGrain. Ta při generování mírně ovlivňuje, jaká slova model z několika možných variant zvolí.

V delším textu tak vznikne statistický vzorec. Speciální detektor může následně určit, zda se v něm stopa typická pro textGrain nachází.

Přepsání několika vět už dělá rozdíl

Právě tady ale přichází největší slabina celého systému. OpenAI zveřejnilo vlastní výsledky testování a ty ukazují, že vodoznak není zdaleka nezničitelný. U textů dlouhých přibližně 400 tokenů dokázal detektor za testovacích podmínek najít značku zhruba v 95 procentech případů. U 200 tokenů úspěšnost klesla přibližně na 80 procent.

Ještě zajímavější je, co udělá obyčejná editace. Při nahrazení deseti procent slov synonymy klesla v jednom z testů úspěšnost detekce z přibližně 92 na 66 procent. Po změně čtvrtiny slov už detektor našel značku pouze v 17 procentech případů.

Vodoznak proto rozhodně nebude možné používat jako nezpochybnitelný důkaz, že konkrétní text napsala umělá inteligence. OpenAI samo upozorňuje na možnost falešně pozitivních i falešně negativních výsledků.

Vodoznak neprozradí, kdo ChatGPT použil

Systém navíc neukládá do textu identitu uživatele ani jeho účet. Detektor tedy nemá umět zjistit, kdo text vytvořil, jaký prompt použil nebo z jaké konverzace pochází. Neřekne ani to, jak velkou část práce odvedl člověk. Uživatel může například s ChatGPT připravit podklady, následně celý text přepsat a doplnit vlastní informace. Samotná přítomnost značky tuto práci nijak nezměří.

OpenAI proto zatím ani nechce dát svůj detektor volně k dispozici veřejnosti. Přístup mají v první fázi získat vybraní výzkumníci a odborné organizace. Značení se navíc nebude vztahovat úplně na všechno. Krátké texty pod hranicí 200 tokenů a úryvky programového kódu patří mezi případy, kde evropská pravidla s povinným vodoznakem nepočítají. Mimo Evropskou unii OpenAI plošné značení při spuštění nezavádí. Zákazníci API si však mohou textGrain u podporovaných modelů zapnout dobrovolně po celém světě.

Diskuze
Zdroje: 

CDR Hry

DIIT
Tlak na bezpečnost roste, správa IT zaostává. Jaká rizika přináší zanedbaná údržba a jak ji dohnat?
DIIT
Intel oznámil, že během půl roku přestane přijímat standardní objednávky na dvě řady mobilních procesorů Arrow Lake: Core Ultra 200H a Core Ultra 200U. Důvody nejsou příliš jasné…
DIIT
Mobilní APU AMD Medusa Point vybavené jádry z generace Zen 6 dosahuje zajímavých výsledků. Vzorek po procesorové stránce nikterak nezaostává za high-endovým Panther Lake, nižšímu počtu jader navzdory…
DIIT
Zdá se, že by v dohledné době mohlo dojít k určitému poklesu cen nebo alespoň krátkodobým akcím na procesor Ryzen 7 5800X3D, nejvýkonnější herní model pro AM4 platformu…
DIIT
Velikost či význam firmy lze hodnotit různě. Tržní kapitalizací, vývojem ceny akcií, podílem na trhu, čistým ziskem, ale také výší příjmů. Právě v tomto ohledu se situace poprvé v historii mění…