ChatGPT je asi nejznámnějším příkladem veřejně používané umělé inteligence. Lidé si na ní poměrně rychle zvykli a začali ji i ve velkém používat. Bohužel musím konstatovat, že existuje mnoho případů, kdy se umělá inteligence i zneužívala. Jedním z takových příkladů, kdy se ChatGPT od OpenAI zneužil je třeba ten aktuální.

Severokorejská hackerská skupina prý využila nástroje podobné ChatGPT, aby zaútočila na uživatele nejrůznějších sítí, jako je LinkedIn, Facebook, WhtatsApp, Discord či Telegram. Severokorejští hackeři zkrátka využívají LLM s umělou inteligencí k vytváření obsahu, který je používán při kampaních typu spear-phishing.

Zdroj: Shutterstock

U těchto kampaní je typické, že se útočníci vydávají za legitimní subjekty, jako náboráři, s cílem oklamat jednotlivce za účelem odhalení jeho citlivých údajů nebo proto, aby ho donutili kliknout na škodlivý odkaz. Podle všeho je zřejmé, že tyto útoky jsou jednoduše koncentrovány na specifické sektory uživatelů, kteří se zabývají kybernetickou bezpečností, obranou nebo kryptoměnami.

Podle odborníků jsou veškeré prostředky získané těmito útoky použity na financování severokorejských balistických střel a jaderného programu. Útočníci působí velice přesvědčivě a s uživateli vedou rozsáhlé konverzace, aby získali jejich důvěru. Úkol umělé inteligence je právě ve vytváření dokonalého a přesvědčivého obsahu. Tyto útoky lze odhalit jen těžko, a to díky neohrabané angličtině. Ta může ale stejně tak být i u reálného náboráře díky jeho neznalosti. Nezbývá proto nic víc než obyčejná obezřetnost.