OpenAI oznámila změnu, která může zásadně ovlivnit používání ChatGPT. Nezletilí uživatelé mají být nově rozpoznáváni nikoli podle data narození, ale podle stylu komunikace. Systém sleduje například volbu slov, způsob, jakým někdo reaguje, nebo i to, zda často používá emoji. Pokud z analýzy vyplyne, že jde o člověka mladšího 18 let, přepne se automaticky do speciální teenagerské verze.

Zatímco dosud se spoléhalo hlavně na to, co uživatel uvedl při zakládání účtu, novinka jde o krok dál. Obejít ji nebude tak snadné, a to je přesně to, co OpenAI chtěla – reaguje na prudce rostoucí zájem mladých lidí o generativní umělou inteligenci.

Co uvidí teenageři a co už ne

Teenagerský režim se liší hlavně v tom, jaké téma je možné rozebírat. Pokud se nezletilý začne ptát na citlivé oblasti, jako je sexualita, sebevražedné myšlenky nebo návykové látky, odpověď bude často výrazně omezená nebo zcela zamítnutá.

Dospělý uživatel přitom stejnou otázku může otevřít v širším kontextu – třeba při psaní článku, při odborné diskusi nebo i v rámci hledání pomoci. Jinými slovy, systém se snaží vytvořit pro mladší bezpečnější prostředí, i když to znamená, že občas dostanou jen strohé: „S tímto ti nemohu pomoci.“

Rodičovské kontroly na obzoru

Součástí celé novinky má být také balík nástrojů pro rodiče. Ti si budou moci propojit účet svého dítěte se svým vlastním, nastavit časové limity, a dokonce dostávat upozornění, pokud systém vyhodnotí chování dítěte jako rizikové.

OpenAI mluví i o možnosti rozpoznat takzvaný akutní stres. V případě, že AI odhadne závažný problém, může být rodič okamžitě informován – a v krajních situacích i odpovědné úřady.

Zdroj: Shutterstock

Ochrana, nebo zásah do soukromí?

A tady se dostáváme k citlivé části celé věci. Kritici varují, že odhadování věku na základě stylu komunikace může být vnímáno jako zásah do soukromí. Uživatel se totiž nikde neptá, zda s tím souhlasí – prostě se mu přidělí režim podle toho, jak píše.

Navíc je tu riziko omylů. Pokud někdo dospělý používá hodně emotikonů, stěžuje si na školní stres nebo má prostě lehce „mladistvý“ styl, může se ocitnout ve filtrované verzi. Návrat zpět pak vyžaduje klasické ověření věku, podobně jako když si v obchodě kupujete alkohol.