Právě Civitai nedávno uvedla novou funkci nazvanou „odměny“, s cílem podporovat svou komunitu při vývoji realistických deepfake postav. Podle zprávy od 404 Média bude ten, kdo vytvoří nejlepší model umělé inteligence, odměněn virtuální měnou nazvanou „Buzz“, kterou lze zakoupit za skutečné peníze.

Na webových stránkách je mnoho odměn, které vyzývají uživatele k vytvoření podob celebrit a sociálních influencerů, převážně však žen. Tato skutečnost, která se na internetu objevuje už několik let, nyní získává nový rozměr díky pokrokům v umělé inteligenci, která umožňuje vytvářet realističtější výsledky.

Zdroj: Shutterstock

Podle firmy Andreessen Horowitz je Civitai aktuálně sedmou nejoblíbenější platformou pro generativní umělou inteligenci. To znamená, že na tyto odměny je upřena poměrně velká pozornost. Zaměstnancům ve společnosti 404 Media trvalo jen chvíli získat obrázky od naprosto cizích osob ze soukromých účtů na sociálních sítích a přetvořit je.

Jeden uživatel Civitai odměnu odmítl s odkazem na „možné budoucí právní problémy“. Navzdory aktualizaci zákonů ve Virginii, které mají potrestat tvůrce deepfakes v oblasti pornografie až jedním rokem vězení, byl tento konkrétní požadavek nakonec splněn. Stojí za zmínku, že pouze málo žádostí o odměnu specifikuje hledání sexuálního obsahu, přičemž formulují požadavek vágním jazykem. Někteří však jdou dál a používají vulgární výrazy, což vyvolává obavy ohledně etiky této platformy.

Na závěr je potřeba ještě dodat, že jen velice málo žádostí pocházelo ze sexuálních materiálů. Ovšem i takoví uživatelé se našli, kteří ve své žádosti požadovali konkrétní velikost prsou. Každopádně tato technologie by prý neměla sloužit ke generování sexuálního obsahu reálných lidí.