Discord novou funkci označuje jako experiment, který momentálně probíhá v Austrálii a Spojeném království. Právě tyto země přijaly v posledních letech přísnější zákony na ochranu dětí v online prostředí. Nová legislativa požaduje, aby platformy přijaly „robustní“ metody ověřování věku – zejména v případech, kdy může docházet k zobrazování pornografie nebo jiného explicitního obsahu.

Pro uživatele, kteří si nikdy věk na Discordu neověřili, teď přichází změna: pokud se dostanou k obsahu označenému jako citlivý, nebo pokud chtějí změnit filtry citlivého obsahu, vyskočí na ně nové okno s výzvou k ověření věku.

Skenuj obličej, nebo pošli občanku

Nové ověření věku nabízí dvě možnosti:

1. Skenování obličeje pomocí kamery zařízení
2. Nahrání fotky občanského průkazu nebo jiného identifikačního dokladu

Skenování obličeje probíhá přes aplikaci třetí strany a podle Discordu se vše odehrává lokálně v zařízení – tedy bez nahrávání dat na servery. U varianty s občankou je snímek údajně smazán hned po ověření.

Na první pohled to zní dobře. Ale co když umělá inteligence „vyhodnotí“, že uživatel vypadá příliš mladě – a přístup mu zablokuje?

Když vás AI uzná za dítě

Právě důvěra v technologii, která rozhoduje podle vzhledu, je podle mnohých Achillovou patou celého systému. Discord připouští, že některým uživatelům může být přístup chybně zablokován, pokud software vyhodnotí jejich věk nesprávně. V takovém případě mají možnost celý proces opakovat, požádat o ruční kontrolu, nebo se odvolat.

To vše je však spojeno s dalšími obavami – kolik uživatelů skutečně podstoupí celý proces znovu? A kolik z nich prostě platformu opustí?

Zdroj: Shutterstock

Cílená ochrana dětí, nebo skrytá hrozba?

Na jednu stranu je těžké zpochybnit, že děti by neměly mít volný přístup k nevhodnému obsahu. Na druhou stranu ale novinka otevírá i diskuzi o hranicích soukromí, transparentnosti a přiměřenosti opatření. Kritici upozorňují, že skenování obličeje může být zneužitelné, byť Discord tvrdí, že žádná biometrická data se neukládají. I samotný fakt, že musí člověk ukazovat občanku, když chce změnit nastavení filtru, je pro někoho zbytečně invazivní.

Další otázkou je, pro koho je systém určen. Nejde totiž o standardní součást registrace – věkové ověření se vyžaduje až v situacích, kdy je uživatel vystaven citlivému obsahu nebo chce změnit filtr. Jinými slovy, kdo zůstane v „běžném režimu“, ten pravděpodobně žádnou kontrolou neprojde. A právě to může vést k obcházení systému.

První vlaštovka? Zatím jen v Británii a Austrálii

Zda Discord plánuje rozšířit tento systém i do dalších zemí, zatím není jasné. Firma se oficiálně nevyjádřila. Nicméně je velmi pravděpodobné, že pokud ověření bude úspěšné, dostane se brzy i do Evropské unie nebo Spojených států – zejména pokud tam budou přijaty podobné zákony.

Velkou roli přitom hraje nátlak ze strany dnešních vlád. Například britský zákon o online bezpečnosti (Online Safety Act) vyžaduje „důkladné“ ověřování věku u webů, které potenciálně obsahují pornografii. V Austrálii se pak diskutuje o úplném zákazu sociálních sítí pro osoby mladší 16 let.