Jak byl problém odhalen

Výzkumnice HRW, Hye Jung Han, analyzovala malou část datové sady LAION-5B, vytvořené z veřejně dostupných snímků na internetu. V této analýze objevila 170 fotografií dětí z deseti brazilských států, převážně rodinných fotografií z osobních blogů a YouTube videí. Tyto fotografie byly původně určeny pro soukromé sdílení, nikoli pro veřejné využití umělou inteligencí.

Reakce LAION a HRW

Německá nezisková organizace LAION, která datovou sadu vytvořila, spolupracovala s HRW na odstranění odkazů na fotografie dětí. Přestože odstranění odkazů z datové sady může zmírnit problém, neřeší jej zcela. HRW upozorňuje, že mnoho dalších osobních údajů dětí může být stále přítomno v datové sadě. Navíc, odstranění odkazů z datové sady neodstraní samotné fotografie z veřejného webu, kde mohou být i nadále dostupné a využívané.

Zdroj: Shutterstock

Rizika spojená s používáním AI

Han zdůrazňuje, že fotografie dětí mohou být zneužity k tvorbě nesouhlasných a potenciálně škodlivých deepfake obrázků. To může mít vážné důsledky pro děti, jejichž identita byla snadno dohledatelná díky popiskům obsahujícím jména a umístění.

Reakce organizací a budoucí kroky

V prosinci 2023 byly všechny veřejně dostupné verze datové sady LAION-5B staženy z důvodu nalezení nezákonného obsahu v datové sadě. LAION spolupracuje s několika organizacemi, včetně Internet Watch Foundation a Human Rights Watch, na odstranění nelegálního obsahu. Cílem je opětovné zveřejnění revidované verze datové sady.

HRW vyzývá k rychlému přijetí politik na ochranu dat dětí. V Brazílii se očekává zavedení nové národní politiky na ochranu práv dětí v digitálním prostředí. Tato politika by měla zahrnovat specifické záruky proti zneužití osobních údajů dětí a zavést právo na odvolání souhlasu s použitím jejich dat pro trénink AI.

Závěr

Incidenty jako tento ukazují na nutnost přísnější regulace a ochrany osobních údajů dětí v digitálním věku. Je důležité, aby organizace i vlády podnikly kroky k zajištění bezpečnosti a soukromí dětí před riziky spojenými s technologiemi umělé inteligence. Děti by neměly žít ve strachu, že jejich osobní fotografie mohou být zneužity, a je nezbytné vytvořit mechanismy pro spravedlnost a nápravu v případech, kdy k takovému zneužití dojde.