Bývalá výzkumnice OpenAI Zoë Hitzig oznámila, že opouští firmu jen několik dní poté, co společnost začala testovat reklamy v bezplatné verzi ChatGPT ve Spojených státech. Ve svém textu publikovaném v listu The New York Times popisuje, že právě tento krok pro ni znamenal definitivní potvrzení obav, které v ní dozrávaly delší dobu.

Hitzig působila v OpenAI dva roky. Podílela se na ekonomickém nastavení modelů i jejich cenové strategii. V eseji zdůrazňuje, že reklamu samu o sobě nepovažuje za nemorální. Problém podle ní spočívá v povaze dat, která lidé chatbotům svěřují. Uživatelé sdílejí osobní strachy, zdravotní potíže, vztahové krize nebo náboženské otázky často s pocitem, že komunikují s neutrálním nástrojem bez skrytých zájmů.

Právě tato důvěra je podle ní klíčová. Pokud se z konverzací stane základ pro personalizaci reklam, vzniká napětí mezi obchodním modelem a původním posláním asistenta. Hitzig připomíná vývoj společnosti Facebook, která podle ní postupně ustupovala od dřívějších příslibů větší kontroly nad daty. Varuje, že podobný vývoj by mohl potkat i ChatGPT, pokud se ekonomické pobídky začnou dostávat nad deklarované zásady.

OpenAI uvádí, že reklamy jsou jasně označené, umístěné na konci odpovědí a nemají ovlivňovat samotný obsah generovaných textů. Personalizace je podle dostupných informací ve zkušebním režimu zapnutá jako výchozí, přičemž inzerenti nemají přístup k samotným konverzacím. Firma zároveň deklaruje, že reklamy se nebudou zobrazovat u témat týkajících se zdraví, duševního stavu nebo politiky.

Zdroj: Shutterstock

Tlak komerce a širší otřesy v AI

Debata o reklamách v AI se rozhořela i kvůli veřejné výměně názorů mezi OpenAI a konkurencí. Společnost Anthropic, která vyvíjí chatbot Claude, oznámila, že reklamy zavádět neplánuje. V reklamní kampani naznačila, že komerční tlak může vést k nepřirozenému vkládání produktových sdělení do citlivých konverzací.

Šéf OpenAI Sam Altman reagoval s tím, že zobrazovaný scénář je zavádějící a že reklamy mají umožnit přístup k AI i uživatelům, kteří si nemohou dovolit placené předplatné. Firma nabízí několik úrovní služeb, přičemž reklamy se týkají pouze bezplatné a nejnižší placené varianty.

Hitzig ve svém textu upozorňuje také na další rovinu. Tvrdí, že optimalizace modelů na růst počtu aktivních uživatelů může vést k tomu, že systém bude uživatele nadměrně utvrzovat nebo jim lichotit. To může posilovat pocit závislosti na nástroji. V minulosti se objevily i případy, kdy odborníci varovali před příliš silnou emoční vazbou na chatboty.

OpenAI čelí několika žalobám souvisejícím s údajnými škodlivými dopady používání ChatGPT. Tyto případy zatím nebyly pravomocně uzavřeny, ale ilustrují, jak citlivá oblast to je. Reklamní model do této rovnice přidává další vrstvu složitosti.

Zajímavé je, že Hitzig není jedinou výraznou osobností, která v posledních dnech z velké AI firmy odešla. Personální změny oznámili i výzkumníci z Anthropic a společnosti xAI. U některých z nich zaznívají obavy z tempa komercializace a tlaku na rychlé nasazování produktů.