Vývojářský nástroj od Googlu umožnil tichý útok přes prompt injection

Deepfake technologie zažívá v posledních letech raketový rozmach. Co začalo jako výměna obličejů ve videích, se dnes mění na kompletně syntetické světy, kde je falešná nejen tvář, ale i hlas, pohyb a celé pozadí. Taková videa jsou stále přesvědčivější a mohou být nebezpečnou zbraní – od očerňování veřejně známých osob až po manipulaci s veřejným míněním v předvolebních kampaních.

Reagovat na tento trend se rozhodl tým z University of California, Riverside vedený profesorem Amitem Roy-Chowdhurym a doktorandem Rohitem Kundu, který s podporou Google Research vyvinul systém UNITE – zkratku pro Universal Network for Identifying Tampered and synthEtic videos.

Detektor, který nepotřebuje obličej

Co dělá UNITE tak výjimečným? Zatímco většina dřívějších nástrojů pro detekci deepfake videí byla závislá na analýze obličejových rysů, UNITE pracuje s celým obrazem. Zkoumá nejen tváře, ale i pohyby a pozadí, čímž dokáže rozpoznat manipulace i v případech, kde obličej vůbec není přítomen.

„Disinformace může mít mnoho podob,“ říká Kundu. „Změněné pozadí nebo syntetické scény mohou být stejně zavádějící jako falešné výpovědi veřejných osobností.“ Systém využívá transformerové modely hlubokého učení a tréninkovou techniku „attention-diversity loss“, která jej učí analyzovat různé části obrazu najednou – ne jen jednu oblast.

Společný výzkum, globální význam

Díky spolupráci s Googlem získali výzkumníci přístup k rozsáhlým datovým sadám a výpočetnímu výkonu, který byl klíčový pro trénink modelu na různorodých typech obsahu – včetně videí generovaných z textu nebo statických obrázků.

Zdroj: Shutterstock

UNITE byl poprvé představen na prestižní Conference on Computer Vision and Pattern Recognition (CVPR) 2025 v Nashvillu, kde zazněl i výzkumný článek s názvem “Towards a Universal Synthetic Video Detector: From Face or Background Manipulations to Fully AI-Generated Content”.

UNITE jako nástroj pro ochranu reality

Hlavní síla UNITE spočívá v univerzálnosti – jeden model stačí pro detekci celé škály podvodných technik, od jednoduchých obličejových výměn až po komplexní simulace vytvořené bez jediného reálného záběru. To z něj činí silného kandidáta pro nasazení do redakcí, ověřovacích center i sociálních sítí, kde může sloužit jako první obranná linie proti manipulacím.

„Lidé mají právo vědět, zda to, co vidí, je skutečné,“ uzavírá Kundu. „A jak se AI zlepšuje v napodobování reality, musíme i my zlepšit nástroje pro její odhalování.“