Umělá inteligence je na jednu stranu revolučním nástrojem moderní civilizace, na druhou stranu ovšem představuje i hrozbu. Spousty lidí uvádí do rozpaku, protože nevědí, zda daná fotografie, hlas či text pochází od člověka nebo od umělé inteligence. Její dokonalost dospěla tak daleko, že se mnozí lidé bojí i o svou pracovní pozici. 

ChatGPT se přítížilo práci šéfredaktorů, nakladatelů i učitelů, protože právě oni mají být ti, kteří hodnotí obsah psaný člověkem. Mnoho studentů si ale nechává své slohové a semestrální práce jednoduše vygenerovat místo aby provedli poctivou rešerši. Uživatelé a různé instituce tak volají po nějaké možnosti zkontrolovat, zda se skutečně jedná o text vytvořený mozkem či počítačem. 

Společnost OpenAI, která stojí za neslavnějším chatbotem ChatGPT, poměrně nedávno publikovala i nástroj zvaný AI Classifier, který měl být schopen detekovat text napsaný umělou inteligencí. O pozastavení tohoto nástroje informoval jako první server Decrypt, protože oficiální oznámení proběhlo ze strany OpenAI jen přidáním malé nenápadné poznámky na oficiální web AI Classifier.

Důvodem pozastavení nástroje je nízká míra přesnosti. Zní to možná až ironicky, že umělá inteligence schopna psát texty, nedokáže ani poznat, co sama vygenerovala. V onom oznámení se pak píše: „Pracujeme na začlenění zpětné vazby a v současné době zkoumáme efektivnější techniky zkoumání původu textu a zavazujeme se vyvinout a nasadit nástroje, které by uživatelům umožnily zjistit, zda byl zvukový či vizuální obsah vytvořen umělou inteligencí.“

Zdroj: Shutterstock

AI Classifier tak neměl dlouhého trvání, protože byl zpřístupněn teprve na počátku tohoto roku, kdy se v médiích nejvíce diskutovalo o možných rizicích a následcích zneužívání umělé inteligence. Dle autorů dokázal AI Classifier identifikovat správně pouze 26 % předložených textů s tím, že u 9 % textů označil práci člověka jako dílo umělé inteligence.

V případě, že byl zkoumán původ textu v jiném jazyce, byla úspěšnost a přesnost ještě nižší. V konečném důsledku tak mohly tyto nástroje spíše uškodit, protože na základě těchto nástrojů mohli být studenti či redaktoři obviněni z podvádění svým nadřízeným či veřejností, ačkoliv se jednalo o vlastní obsah. Těžko se totiž člověku dokazuje, že je autorem textu sám, a nikoliv umělá inteligence. 

Umělá inteligence se učila generovat text po lidském vzoru, takže zcela logicky je možné, že její styl úpravy a skladby vět mohou být velice podobné či stejné, jako u některých lidí. Navíc je možné si u ChatGPT nechat vygenerovat třeba drama ve stylu Shakespeara. Mnoho programátorů si tak nyní láme hlavu nad tím, jak efektivně a s co největší přesností označit text vygenerovaný umělou inteligencí. U obrázku totiž přidáte jen vodoznak. Do video či audio stopy přidáte zvuk v určité frekvenci, které běžný člověk ani nezaregistruje. U vygenerovaného textu je však situace složitější.