CDR.cz - Vybráno z IT

Kód vygenerovaný AI je neudržitelný: Anthropic spouští software pro jeho detekci

Zdroj: Shutterstock

Stále více programátorů používá umělou inteligenci jako pomocníka při psaní kódu. Vývoj je rychlejší, ale zároveň přibývá chyb a nejasných řešení. Společnost Anthropic proto představila nástroj, který má automaticky kontrolovat kód vytvořený AI.
Přidejte si CDR do oblíbených na Google News

V posledních dvou letech se způsob, jakým vzniká software, změnil víc než za celé předchozí desetiletí. Mnoho vývojářů dnes při práci běžně používá nástroje s umělou inteligencí. Stačí napsat zadání v běžném jazyce a systém navrhne hotový kód.

Pro programátory je to velká úleva. Rutinní části aplikací mohou vzniknout během několika sekund a vývoj se výrazně zrychluje. Někteří vývojáři tomu říkají trochu ironicky „vibe coding“. Člověk popíše, co potřebuje, a AI zkusí napsat řešení.

Jenže realita je o něco složitější. Umělá inteligence sice dokáže generovat kód velmi rychle, ale ne vždy je stoprocentně správný. Objevují se logické chyby, nepřesné řešení problémů nebo části kódu, kterým sami autoři projektu úplně nerozumí.

Mnoho programátorů to zná z praxe. AI dokáže navrhnout funkci, která na první pohled vypadá správně, ale při detailní kontrole se ukáže, že řeší problém jen částečně nebo v některých situacích selže. Proto je stále nutné kód pečlivě procházet.

A právě tady vzniká nový problém. Jakmile AI začne generovat velké množství kódu, množství změn v projektech prudce roste. Vývojáři pak tráví stále více času jejich kontrolou.

Další AI má hlídat chyby dřív, než se dostanou do aplikace

Na tento problém reaguje společnost Anthropic, která stojí za jazykovým modelem Claude. Do svého vývojářského prostředí přidala nový nástroj s názvem Code Review.

Jeho úkolem je automaticky procházet změny v kódu a upozorňovat na možné problémy ještě před tím, než se změny dostanou do hlavní verze projektu.

Zdroj: Shutterstock

V praxi to funguje poměrně jednoduše. Když vývojář odešle změny ke schválení, systém je analyzuje a přidá komentáře přímo do kódu. Upozorní například na logickou chybu, potenciální problém nebo místo, které by mohlo způsobit nečekané chování programu.

Nástroj se přitom soustředí hlavně na podstatné věci. Neřeší drobnosti nebo styl psaní kódu. Zaměřuje se na chyby, které by mohly způsobit problémy v provozu aplikace.

Podle autorů využívá systém několik samostatných agentů, kteří analyzují kód z různých úhlů. Jeden sleduje logiku programu, další hledá bezpečnostní problémy a jiný kontroluje souvislosti s ostatními částmi projektu. Výsledky se pak spojí a vývojář dostane přehled o nejdůležitějších problémech.

Celá situace ukazuje zajímavý paradox dnešního vývoje softwaru. Umělá inteligence výrazně urychlila tvorbu programů, ale zároveň vytvořila nový druh práce.

Když kód vzniká rychleji než dřív, musí ho někdo stejně rychle kontrolovat. A právě to se postupně stává jedním z největších problémů velkých vývojových týmů. Proto začínají firmy hledat způsoby, jak část kontroly automatizovat. Ne proto, aby nahradily lidské programátory, ale aby jim pomohly zvládnout množství změn, které dnes v projektech vznikají.

Diskuze