Umělá inteligence rychle transformuje nápady do zdrojového kódu, ale ještě není propracovaná.
Nejnovější výzkum společnosti CodeRabbit (populárního nástroje pro kontrolu zdrojového kódu) ukazuje, že kód generovaný umělou inteligencí má 1,7krát vyšší chybovost než kód vytvořený lidmi. Čelíme paradoxu: čím rychlejší a pohodlnější je něco, tím větší je riziko.
Paradox pohodlí: Zdrojový kód umělé inteligence je plný chyb.
Podle dat z CodeRabbit obsahuje průměrný požadavek na změnu kódu generovaný umělou inteligencí 10,83 chyb, ve srovnání s pouze 6,45 chybami u lidí. Je pozoruhodné, že tyto chyby nejsou jen drobné; umělá inteligence má tendenci generovat závažné logické chyby 1,4krát častěji než lidští programátoři.
Hlavní důvod spočívá ve skutečnosti, že umělá inteligence je v podstatě „prediktivní stroj“. Je dobrá v hádání, jaké bude další písmeno, na základě obrovského množství dat z internetu, ale o reálném kontextu složitého systému nemá žádné ponětí.
Umělá inteligence dokáže psát propracovaný, syntakticky správný kód (s 1,76krát menším počtem pravopisných chyb než lidé), ale po uvedení do provozu se tento kód může stát „sabotérem“ kvůli konfliktům s ostatními komponentami systému.
Achillovou patou je bezpečnost.
Nejvíce odborníků znepokojuje bezpečnostní zranitelnost. Umělá inteligence často opakuje klasické chyby, jako je nezabezpečená manipulace s hesly, zveřejňování citlivých informací nebo usnadňování útoků SQL injection.
Je to jako stavební dělník s nadlidskou rychlostí, který zapomněl nainstalovat zámek u dveří. Zprávy ukazují, že bezpečnostní zranitelnosti umělé inteligence mají 1,57krát vyšší pravděpodobnost selhání než lidské. Potřeba Microsoftu opravit rekordních 1 100 zranitelností v roce 2025 je varovným signálem.
S dramatickým nárůstem objemu zdrojového kódu díky umělé inteligenci se exponenciálně zvyšuje i tlak na bezpečnostní inženýry. Náklady na opravu zranitelností po uvedení produktu na trh jsou vždy mnohonásobně vyšší než náklady na jeho správné řešení od začátku.
Od „kodéra“ k „moderátorovi“
I když se 1,7násobná míra chyb může zdát alarmující, neznamená to, že bychom se měli k umělé inteligenci otočit zády. Pozitivní je, že umělá inteligence je v psaní testovacích skriptů 1,32krát lepší než lidé.
Role moderních programátorů se dramaticky mění. Už nejsou pilnými „písaři“, ale postupně se stávají architekty a hodnotiteli. Nejdůležitější dovedností v roce 2025 nebude memorování programovacích jazyků, ale kritické myšlení k odhalování zdánlivě naivních, ale nebezpečných nedostatků v umělé inteligenci.
Musíme zavést přísné „kontrolní body“, které kombinují lidskou intuici s automatizací nástrojů pro kontrolu chyb. Umělá inteligence je v konečném důsledku skutečně efektivní pouze tehdy, když je v rukou programátorů, kteří vědí, jak zpochybňovat chybné výsledky a odváží se je odmítat.
Budoucnost programování nespočívá v tom, kdo píše kód rychleji, ale v tom, kdo lépe zvládá podpůrné nástroje.
Zdroj: https://tuoitre.vn/code-do-ai-viet-nhanh-hon-nhung-loi-nhieu-gap-1-7-lan-con-nguoi-20251222173455961.htm
Komentář (0)