Ještě před pár lety bylo psaní kódu pomocí umělé inteligence spíš kuriozitou. Dnes se z něj stal nástroj, bez kterého si mnoho programátorů neumí představit běžný pracovní den. Aktuální čísla ukazují, že AI se dnes podílí na zhruba čtyřech z deseti řádků kódu, které vznikají v moderních softwarových projektech. A ten podíl dál rychle roste.

Na první pohled to vypadá jako splněný sen. Rychlejší vývoj, méně rutinní práce, víc prostoru pro nápady. Jenže pod povrchem se objevuje nepříjemný rozpor. Vývojáři AI používají stále víc, ale věří jí stále míň.

Drtivá většina programátorů otevřeně přiznává, že kód vytvořený umělou inteligencí považuje za nespolehlivý. Bojí se chyb, bezpečnostních děr i nečekaného chování aplikací. Zároveň ale skoro polovina z nich přiznává, že výstupy AI neprochází pokaždé důkladnou kontrolou, než je odešle do projektu. Jinými slovy, do reálných systémů se dostává kód, o jehož kvalitě si lidé sami nejsou jistí.

Zdroj: Shutterstock

Důvod je prostý a hodně lidský. Kontrola cizího kódu, zvlášť toho, který generoval stroj, je únavná. Umělá inteligence totiž dokáže psát velmi přesvědčivě. Všechno vypadá správně, strukturovaně a logicky. Jenže drobné chyby se často skrývají tam, kde je na první pohled nikdo nehledá. Problémy se pak projeví až ve chvíli, kdy aplikaci používají tisíce lidí.

Navíc platí, že AI se učí z obrovských databází veřejného kódu, kde je vedle kvalitních řešení i spousta špatných návyků. Výsledky proto mohou působit profesionálně, ale ve skutečnosti obsahují postupy, které by zkušený vývojář nepoužil. To vytváří zvláštní druh falešného klidu. Kód vypadá dobře, tak se pošle dál.

Nezávislé analýzy už dnes ukazují, že software vytvořený pomocí AI mívá výrazně víc problémů než kód psaný ručně. Nejde jen o drobnosti. Objevují se i chyby, které mohou otevřít cestu k útokům nebo způsobit výpadky služeb.

Celá situace se ještě komplikuje tím, jak vývojáři tyto nástroje používají. Mnozí pracují s osobními účty místo firemních, což znamená, že části zdrojových kódů nebo interních dat končí mimo kontrolu organizací. Pro firmy, které nesou odpovědnost za bezpečnost svých aplikací, je to tichý, ale vážný problém.

Umělá inteligence bezpochyby posunula programování o velký kus dopředu. Urychluje práci a dává lidem nové možnosti. Zároveň ale přinesla nové druhy rizik, na které zatím není celý obor připravený.

V digitálním světě, kde stroje píší čím dál větší část toho, co používáme každý den, už nejde jen o to, kolik kódu zvládnou vyprodukovat. Důležitější je, jestli ho někdo opravdu čte, chápe a nese za něj odpovědnost. Pokud ne, může se rychlost, která dnes působí jako výhoda, změnit v problém, který bude stát hodně času i peněz.