Google je tím však nepochybně zhrozen a proto podnikl významný právní krok proti skupině označované jako Outsider Enterprise. Prý je to organizace působící z Číně, která měla stát za rozsáhlou podvodnou kampaní využívající Gemini. Google tvrdí, že skupina pomáhala vytvářet falešné webové stránky a podvodné textové kampaně, jejichž cílem bylo získávání citlivých údajů od nic netušících uživatelů.

Podle soudních dokumentů tato Outsider Enterprise fungovala především prostřednictvím Telegramu. Nabízela tam phishing na míru a návody pro lidi, kteří sami neměli dostatečné technické znalosti k vytvoření propracovaných podvodných kampaní. Zájemci si mohli zakoupit předpřipravené šablony, příručky a další služby potřebné k provozování internetových podvodů.

Jakou roli v tom tedy hrálo Gemini?

Řekněme, že poměrně velkou, jelikož daná skupina zveřejňovala instrukce, jak tento konkrétní jazykový model využít k vytváření věrohodně vypadajících kopií známých webových stránek. Mezi napodobovanými službami měly být například stránky Googlu, YouTube nebo některých amerických vládních institucí. Podvodníci nabízeli téměř tři stovky různých šablon, které bylo možné rychle přizpůsobit konkrétnímu cíli.

Co se pak týče rozsahu celé této operace, podle dostupných informací byl mimořádně velký. Google odhaduje, že kampaně spojené s Outsider Enterprise vedly k rozeslání více než 2,5 milionu textových zpráv uživatelům telefonů s operačním systémem Android. Jen během dvou týdnů minulého měsíce bylo zaznamenáno přibližně 55 tisíc takových zpráv. Společnost současně identifikovala zhruba 9 tisíc podvodných webových stránek a více než milion internetových adres souvisejících s touto sítí.

Samotné podvodné zprávy často využívaly osvědčené taktiky, které jsou až směšně recyklované již tolik let - bohužel na mnoho lidí stále fungují. Příjemce je upozorněn na údajný problém s uživatelským účtem, nezaplacený poplatek nebo komplikaci při doručování zásilky. Když uživatel otevře odkaz, čeká ho takové menší překvapení v podobě podvrženého webu, odkud útočníci vysávají osobní údaje, přihlašovací informace nebo podrobnosti o platebních kartách. Přestože Google nezveřejnil odhad celkových finančních škod, potvrzuje, že minimálně několik tisíc lidí přišly o peníze. Skutečný rozsah ztrát může být podle odborníků ještě výrazně vyšší, protože mnoho obětí podobné incidenty nikdy nenahlásí. Zkrátka to nechají plavat, protože si myslí, že se tím nikdo nebude zabývat.

Zdroj: Shutterstock

Jak byla podvodná síť odhalena?

Google uvádí, že na potlačení kampaně spolupracoval s americkými mobilními operátory AT&T, Verizon a T-Mobile. Díky této spolupráci se podařilo zablokovat značnou část škodlivých zpráv ještě před jejich doručením uživatelům. Významnou roli sehrály také bezpečnostní funkce přímo v Androidu. Mimo jiné Google Messages taktéž využívají AI nástroje k rozpoznávání podezřelých zpráv - podle všeho dokážou každý měsíc zastavit až 10 miliard podvodných SMS.

KOMENTÁŘ: Je jasné, že jazykové modely nejsou v žádném případě bezchybné, ostatně zmiňuji to ve svých článcích průběžně. Samotné technologické korporace neustále vyzdvihují ochranné mechanismy, které by měly zabránit zneužití jejich modelů. Ale skutečně jsou tím primárním problémem exploity a podvodníci - tedy generálně koncoví uživatelé - anebo spíše samotné technologické korporace, jež umělou inteligenci implementují všude možně, aniž by se kohokoliv z veřejnosti ptaly, zda o to vůbec stojí? Nevytváří tyto nebezpečné situace třeba tím, že jsou jazykové modely určeny primárně ke sbírání co největšího objemu osobních uživatelských dat? Jsou to úplně ty samé AI technologie, které by mohly být v nedalekém budoucnu více svazovány se zdravotnictvím, školstvím a státními institucemi. Vyhlídky jsou nevalné...

Vraťme se ještě na moment ke Googlu. Google kromě občanskoprávní žaloby spolupracuje také s kybernetickou divizí FBI, která vede paralelní trestní vyšetřování. Identifikovat skutečné pachatele však není vůbec snadné, jelikož je možné, že se skutečně nacházejí v Číně, a tam americké úřady zase až tolik nedosáhnou. I kdyby se podařilo zjistit konkrétní osoby stojící za operací, jejich stíhání by bylo obtížné. Na druhou stranu, možná že by americké úřady měly volnější ruce ve spolupráci s těmi čínskými, jestliže by došlo k přechodu na rozumnou diplomacii stran politické reprezentace, nikoliv jen pošetilému uvalování cel a hraní si na hegemona světa.

Společnost má tedy v plánu ještě něco jiného - pokusí se alespoň o narušení fungování celé sítě. Zaměřuje se výhradně na rušení podvodných domén, blokování účtů na Telegramu a omezování infrastruktury, kterou skupina využívá. Nejedná se samozřejmě o definitivní řešení, jelikož kyberzločinci se často rychle přizpůsobují a po zablokování jedné metody přecházejí k jiné, avšak je velmi rozumné jim nedávat takový prostor, který mají aktuálně k dispozici.