Společnost Transport for London (TfL), která provozuje londýnskou síť metra a autobusů, testovala od října 2022 do konce září 2023 jedenáct algoritmů, které pomohly sledovat lidi na stanici metra Willesden Green na severozápadě města. Toto testování bylo první aplikací umělé inteligence v kombinaci s živými videozáznamy pro generování výstrah v reálném čase, které byly následně doručovány personálu v první linii.

Během testování bylo vydáno více než 44 000 výstrah, z nichž 19 000 bylo doručeno personálu stanice okamžitě. Dokumenty poskytnuté WIRED detailně popisují použití široké škály algoritmů počítačového vidění k monitorování chování lidí na stanici metra.

Zdroj: Shutterstock

Test ve Willesden Green byl zaměřen na detekci bezpečnostních incidentů a pomoci personálu v nouzi, jakož i na identifikaci kriminálního a antisociálního chování. Nicméně, během testů bylo zaznamenáno několik chyb, jako například označení dětí sledujících své rodiče za potenciální podvodníky na jízdném.

Tato nová opatření vyvolávají otázky ohledně ochrany soukromí a etiky. Kritici upozorňují na to, že používání algoritmů k identifikaci agresivního chování může vést k falešným pozitivům a reprodukci existujících společenských předsudků.

Transport for London tvrdí, že cílem těchto experimentů je zlepšení bezpečnosti a kvality služeb pro cestující. Nicméně, reakce veřejnosti na tato opatření je smíšená, a zdůrazňuje se důležitost transparentnosti a veřejné konzultace při nasazení technologií sledování ve veřejném prostoru.