Ve středu otřásla technologickým světem zpráva, že soukromé chaty z ChatGPT se objevily ve výsledcích vyhledávání na Googlu. Nešlo o drobné útržky, ale o celé konverzace, v nichž lidé často sdílejí intimní myšlenky, osobní problémy nebo duševní potíže.

Podle serveru Fast Company šlo o tisíce případů – a to byl zřejmě jen zlomek toho, co bylo skutečně dostupné. Některé chaty obsahovaly popisy složitých rodinných vztahů, traumatických zážitků nebo detailní sebereflexe. Naštěstí se ve výpisech neobjevovala přímá identifikační data, ale jak poznamenali odborníci, obsah některých konverzací mohl stačit k tomu, aby bylo možné dotyčné osoby odhalit.

O čem byla funkce „Make this chat discoverable“

Kořenem problému byla nenápadná možnost sdílení chatu – konkrétně zaškrtávací políčko „Make this chat discoverable“. To bylo doprovázeno drobným a světlým textem, který upozorňoval, že se pak chat může objevit ve vyhledávačích.

Zdroj: Shutterstock

OpenAI sice tvrdí, že uživatelé tuto možnost aktivně zvolili, ale způsob prezentace byl podle kritiků zavádějící. Mnozí si vůbec neuvědomili, že tímto krokem dávají svůj souhlas k veřejné indexaci citlivého obsahu.

Odbornice na AI etiku, Carissa Véliz, z Oxfordské univerzity k tomu řekla, že ji celá situace šokovala – a že jde o další důkaz toho, jak technologické firmy používají běžné uživatele jako pokusné králíky. „Zkouší, co projde, a čekají, jestli si někdo všimne,“ shrnula.

OpenAI otočila: Funkci zrušila a slibuje nápravu

Tlak veřejnosti a médií přiměl OpenAI jednat. Podle šéfa informační bezpečnosti OpenAI Dana Stuckeyho šlo o „krátkodobý experiment“, který měl pomoci lidem objevit užitečné konverzace. Jenže ve výsledku otevřel Pandořinu skříňku.

Firma nyní údajně pracuje na odstranění všech indexovaných odkazů z vyhledávačů. Stuckey potvrdil, že OpenAI využije nástroje Googlu pro blokaci indexace, nicméně upozornil, že tyto nástroje nefungují u všech vyhledávačů stejně rychle. Je tedy možné, že některé odkazy budou veřejně dostupné ještě nějakou dobu.

Google samotný se k věci příliš nevyjadřoval – pouze prostřednictvím mluvčího potvrdil, že za indexaci zodpovídá výhradně OpenAI. Vyhledávače totiž neovlivňují, co se zveřejní na internetu – to určují výhradně autoři stránek.

Uživatelé ztratili důvěru. Obnova bude těžká

Znepokojení panuje i kvůli souběžnému soudnímu sporu, v němž OpenAI čelí požadavku, aby uchovávala i dříve smazané chaty – potenciálně navždy. To jen posílilo obavy, že uživatelé ztrácejí kontrolu nad svými daty, i když se domnívali, že jejich interakce s ChatGPT jsou dočasné nebo anonymní.

Sam Altman, šéf OpenAI, sice uznal, že je „screwed up“, pokud jsou nejcitlivější chaty uživatelů dohledatelné, ale zároveň se k vlastnímu podílu OpenAI na této situaci nevyjádřil tak přímo, jak by si uživatelé přáli.

Mnozí komentátoři se shodují: i krátké přešlapy v oblasti ochrany soukromí mohou mít dlouhodobé následky na důvěru veřejnosti. Zvláště u technologie, která je s námi „osobněji“ než cokoliv předtím – umělá inteligence, se kterou sdílíme své myšlenky, dilemata i bolest.

Jak zjistit, zda je váš chat veřejný?

Fast Company doporučuje jednoduchý test: pokud máte uložený odkaz na svůj dříve sdílený chat, zkuste vyhledat část adresy v Googlu. Pokud se objeví, je stále veřejně dostupný. To znamená, že jej může najít kdokoliv – přátelé, rodina, kolegové nebo i novináři.

Zatím není jasné, jak dlouho bude trvat, než budou všechny tyto odkazy odstraněny, a zda vůbec budou odstraněny zcela.

Varovný příklad pro všechny, nejen pro AI firmy

Celý incident kolem „objevitelných chatů“ není jen problémem OpenAI – je to zrcadlo, které nastavuje celý digitální svět. Uživatelé by měli být jasně a srozumitelně informováni o tom, co se děje s jejich daty. A firmy by měly přestat testovat hranice trpělivosti veřejnosti tím, že spustí „experiment“ bez důsledků.

OpenAI slíbilo nápravu. Ale pokud chce obnovit důvěru, bude muset udělat víc než jen stáhnout jednu funkci. Bude muset ukázat, že soukromí už není jen bezcenná marketingová fráze.