Jedním z těchto problémů je narůstající počet falešně pozitivních detektorů umělé inteligence, které mohou mít zničující dopad na kreativní pracovníky. Příběh spisovatele Michaela Berbena (jméno bylo změněno) je jen jedním z mnoha, který ukazuje, jak tyto detektory mohou způsobit nepřiměřené problémy.

Představte si situaci, ve které jste obviněni z podvádění ve své práci, i když jste to nikdy neudělali. To je přesně to, co se stalo Michaelovi. Po tři dlouhé roky byl svobodným spisovatelem, přispíval do mnoha různých publikací a svou kariéru si budoval na tvrdé práci a odhodlání. Pak přišel den, kdy byl konfrontován s detektorem umělé inteligence, který tvrdil, že jeho články byly vytvořeny strojem, a to ho stálo jeho práci.

Michael byl jedním z mnoha kreativních profesionálů, kteří sledovali nástup umělé inteligence s kombinací zvědavosti a obav. Zatímco tyto nástroje mohou pomoci autorům generovat lepší články a obsah, existovala obava, že by mohly nakonec nahradit lidské spisovatele. Bohužel, tato obava se pro Michaela stala skutečností.

Jeho problémy začaly v momentě, kdy jeho hlavní klient začal používat detektor umělé inteligence ke kontrole kvality článků. Výsledky byly šokující – detektor tvrdil, že 95 % pravděpodobnost, že Michaelovy články byly napsány strojem. Klient začal procházet všechny jeho předchozí články a zjistil, že i ty, které napsal předtím, než byla umělá inteligence tak sofistikovaná, měly pravděpodobnost 65-95 % být generovány strojem. To bylo rozhodnutím k ukončení smlouvy s Michaelem.

Michael se pokoušel bránit a dokázat, že jeho články byly napsány ručně, ale semínko pochybnosti, které detektor AI zasel, bylo příliš silné. Michael předl dokonce svému klientovi přístup ke všem svým textům a ukázala mu svůj proces psaní a editací. Bohužel to nepomohlo, a Michael přišel o svého hlavního klienta a většinu svých příjmů.

Zdroj: Shutterstock

Tento příběh odhaluje několik problematických aspektů souvisejících s falešně pozitivními detektory obecné umělé inteligence. Zaprvé, přesnost těchto detektorů je sporná a často nespolehlivá. Většina obecných detektorů AI produkuje falešně pozitivní odhalení, což znamená, že je obtížné určit, zda je obsah skutečně vytvořen strojem či ručně. Dokonce i společnost OpenAI přestala nabízet svůj vlastní detektor kvůli jeho nízké míře přesnosti.

Dalším problémem je způsob, jakým tyto detektory AI inzerují svou přesnost. Mnoho z nich uvádí velmi vysoké procento přesnosti, například "99 %", což však často není opodstatněné. Tato čísla mohou být zkreslena velikostí vzorku dat, na kterém byla detekce prováděna. Malý vzorek dat může vést k vysoké přesnosti, ale není to relevantní pro reálné použití.

Nakonec, spisovatelé a další kreativní pracovníci mají jen omezené možnosti, jak se bránit proti obviněním ze strany detektorů AI. Michael se snažil doložit svou práci a proces psaní, ale bylo to marné. Detektor AI byl černou skřínkou, jejíž výsledky byly pro něj nezpochybnitelným důkazem. To ukazuje na nutnost vylepšení těchto nástrojů a většího porozumění jejich omezením.

Příběh Michaela Berbena je smutným příkladem toho, jak falešně pozitivní detektory obecné umělé inteligence mohou mít zničující dopad na kreativní pracovníky. Je třeba, abychom se tímto problémem začali zabývat a hledali způsoby, jak vylepšit tyto nástroje a minimalizovat jejich chyby. Jinak může být mnoho dalších talentovaných jedinců falešně obviněno a postiženo.