Ještě před pár lety se o zneužití umělé inteligence mluvilo hlavně v odborných debatách a akademických studiích. Dnes jde o každodenní realitu, se kterou se potýkají firmy, úřady i běžní uživatelé. Jazykové modely dokážou generovat e-maily, zprávy i celé konverzace, které působí přirozeně, bez chyb a bez typických znaků podvodů, na jaké byli lidé zvyklí.

Bezpečnostní společnost Group-IB tento posun označuje jako pátou vlnu kyberkriminality. Nejde o pokusy jednotlivců, ale o plnohodnotnou ekonomiku fungující na dark webu. Analytici sledují prudký nárůst zájmu o nástroje založené na umělé inteligenci už od roku 2019, skutečný zlom ale přišel po zpřístupnění nástroje ChatGPT na konci roku 2022. Od té doby počet zmínek o AI v kriminálním kontextu roste bez známek zpomalení.

Zdroj: Shutterstock

Součástí tohoto trendu je vznik takzvaných Dark LLM. Jde o jazykové modely bez bezpečnostních omezení, často provozované lokálně a nabízené formou předplatného. Útočník tak získá nástroj, který bez zábran pomůže s psaním podvodných scénářů, automatizací útoků nebo vytvářením falešných identit. Technologický základ těchto systémů často vychází z platforem, na nichž stojí i komerční řešení typu OpenAI.

Jednou z nejnebezpečnějších oblastí je rychlý rozvoj deepfake technologií. Hlasové klony a realistická videa dnes slouží k obcházení ověřování identity i k cíleným útokům na firmy. V praxi to znamená telefonát od údajného ředitele, který zní naprosto věrohodně, nebo videohovor, kde tvář i hlas odpovídají skutečné osobě. Pro zaměstnance je pak stále těžší poznat, že nejde o reálný kontakt.

Do hry se tím dostává i psychologický rozměr, který dříve kyberútokům často chyběl. Útočníci už nespoléhají jen na technickou chybu nebo nepozornost, ale cíleně pracují s emocemi, tlakem a autoritou. Kombinace realistického jazyka, přesného načasování a znalosti interních vztahů ve firmách vytváří situace, kdy ani zkušený zaměstnanec nemá jistotu, že reaguje správně.