Jak to funguje

Policisté z Oklahoma City začali používat AI nástroj nazvaný Draft One, který pracuje na základě pokročilého modelu GPT-4, známého z ChatGPT. Tento nástroj analyzuje zvukové záznamy z kamer na uniformách policistů a během několika sekund vytvoří návrh hlášení. Například seržant Matt Gilmore využil tento nástroj k vytvoření hlášení po neúspěšném pátrání po podezřelém, kdy byl celý incident nahrán na jeho tělesnou kameru. AI pak vyprodukovala první verzi zprávy v pouhých osmi sekundách.

Draft One využívá technologie od společnosti Axon, která se zabývá vývojem technologií pro armádu, bezpečnostní složky a civilní trh. Jejich cílem je, aby technologie byla „okamžitým násobičem síly“, tedy aby ušetřila policistům čas a umožnila jim soustředit se na další důležité úkoly. To se zdá jako vítaný krok směrem k modernizaci policejní práce, ale přináší to i vážná rizika.

Rizika spojená s umělou inteligencí

AI systémy nejsou neomylné. Modely, jako je GPT-4, mají tendenci „halucinovat“ nebo vytvářet nepravdivé informace. Aby se zabránilo zkreslení dat a chybným závěrům, tým Axon zavedl různá opatření. Například snížili „kreativitu“ AI, aby se minimalizovalo riziko, že by si nástroj začal domýšlet detaily, které nejsou pravdivé.

Přesto se tento nástroj používá zatím jen pro méně závažné případy, jako jsou menší trestné činy, kdy nevzniká riziko zatčení. Policie ve Fort Collins v Coloradu a Lafayette v Indianě už ovšem nasadila AI hlášení i pro závažnější případy, což zvyšuje otázky o přesnosti a spravedlnosti těchto technologií.

Obavy odborníků

Zavedení AI do policejní práce se nesetkává jen s nadšením. Právník Andrew Ferguson varuje, že snadnost vytváření hlášení by mohla vést k tomu, že policisté začnou být méně pečliví při jejich psaní. Rychlost a automatizace by mohly snížit kvalitu hlášení a ovlivnit výsledky vyšetřování.

Dalším problematickým bodem je možnost, že AI bude podporovat již existující systémové problémy, například diskriminaci. Studie ukazují, že nástroje řízené umělou inteligencí mohou bez aktivních opatření pro zmírnění předsudků automaticky posilovat diskriminační vzorce. Toto se může týkat například nástrojů pro automatizaci náboru zaměstnanců, ale rizika jsou i v oblasti kriminalistiky. Výzkumy navíc upozorňují na to, že modely jako GPT-4 mohou vykazovat skryté formy rasismu a předsudků vůči různým jazykovým skupinám, například afroamerické angličtině.

Zdroj: Shutterstock

Jak Axon řeší problém předsudků

Axon se snaží omezit rasové a jiné předsudky ve svých nástrojích, ale přesto zůstává otázka, zda je to možné zcela eliminovat. Společnost provedla dvě studie s 382 vzorovými zprávami, aby zjistila, zda jejich AI vykazuje rasové předsudky. Zkoumali různé aspekty, jako jsou konzistence, úplnost a závažnost volby slov, a dospěli k závěru, že mezi zprávami vytvořenými Draft One a originálními záznamy nejsou statisticky významné rozdíly.

Zatímco Draft One zatím pracuje jen se zvukem, Axon testoval také použití počítačového vidění k analýze videa z policejních kamer. Tento krok se ale zatím odkládá, protože podle výkonného ředitele Ricka Smithe je toto téma příliš citlivé, zejména s ohledem na otázky rasových a jiných identit.

Budoucnost AI v policii

Otázkou zůstává, jak se technologie jako Draft One osvědčí v praxi. AI nástroje mohou být významným pomocníkem, který ušetří čas a zvýší efektivitu. Na druhou stranu je zde obava, že závislost na automatizaci povede k dalšímu zhoršení již tak problematického systému. Technologie má schopnost ovlivnit každodenní policejní práci, ale také potenciál zvýšit nerovnosti a předsudky.

V oblasti, kde záleží na každém detailu a důkladnosti, by se měla policie mít na pozoru před slepým spoléháním na AI. Jak technologie postupuje, je třeba se stále ptát: Co může jít špatně? A pokud bychom tomu věnovali dostatečnou pozornost, může technologie přinést pozitivní změny. Pokud ne, následky by mohly být závažné.