Řeknete umělé inteligenci, že chcete nové tenisky do 2 500 korun. Agent projde obchody, vybere vhodný pár a rovnou jej objedná. Přesně tímto směrem se část AI služeb vydává. Jenže ve chvíli, kdy software dostane přístup k penězům, přestává jít jen o chytrého pomocníka.

ASB Bank, Bank of America, Capital One, Commonwealth Bank of Australia, ING a NatWest proto společně zveřejnily dokument Building Trust in Agentic Commerce. Bankéři v něm otevřeně upozorňují, že s rozšířením AI agentů může růst počet podvodů, sporů a reklamací.

Podvodník už nemusí přesvědčit člověka

Zajímavý je hlavně způsob, jakým se může internetový podvod změnit. Dnes se útočníci snaží obelstít člověka. V budoucnu jim může stačit obelstít jeho nákupního agenta.

Autoři dokumentu zmiňují například napodobení obchodníka nebo samotného AI agenta, jeho napadení či nové formy sociálního inženýrství. Problém může nastat i bez útoku. AI může objednat jiný výrobek, utratit víc, než zákazník zamýšlel, nebo zvolit platební metodu, která nabízí horší ochranu.

Mark Monaco, který v Bank of America vede Global Payments Solutions, proto mezi klíčová témata řadí identitu, autorizaci plateb, prevenci podvodů i jasně určenou odpovědnost. Hans Overeem z ING zase upozorňuje, že zákazník musí vědět, co jeho agent dělá, a stále nad ním mít kontrolu.

Kdo zaplatí chybu AI?

Tady začíná být situace zajímavá i pro samotné banky. Když AI koupí něco jiného, než zákazník chtěl, může se majitel karty pokusit platbu reklamovat. Jenže čí to byla chyba? Zákazníka, který dal agentovi příliš volné instrukce, provozovatele AI, obchodníka, nebo banky?

Právě proto banky požadují, aby bylo u nákupů poznat, že je provádí AI, a aby bylo možné zpětně dohledat, k čemu jí zákazník dal souhlas. Jejich návrh stojí na pěti principech: transparentnosti, bezpečnosti, ochraně dat a soukromí, možnosti volby a interoperabilitě.

Že nejde jen o akademickou debatu, ukázal v posledních dnech také Amazon. Ten zablokoval nákupního asistenta Meta Muse a požadoval, aby jej Meta z nákupního procesu odstranila. Amazon podle dostupných informací namítal mimo jiné to, že se agent při přístupu k jeho webu dostatečně neidentifikoval.