A mesterséges intelligencia gyorsan átalakítja az ötleteket forráskóddá, de még nem finomodott.
A CodeRabbit (egy népszerű forráskód-ellenőrző eszköz) legújabb kutatása szerint a mesterséges intelligencia által generált kód 1,7-szer magasabb hibaszázalékkal rendelkezik, mint az emberek által létrehozott kód. Paradoxonnal nézünk szembe: minél gyorsabb és kényelmesebb valami, annál nagyobb a kockázat.
A kényelem paradoxona: a mesterséges intelligencia forráskódja tele van hibákkal.
A CodeRabbit adatai szerint egy átlagos mesterséges intelligencia által generált kódmódosítási kérés 10,83 hibát tartalmaz, szemben az emberek által generált mindössze 6,45-tel. Figyelemre méltó, hogy ezek a hibák nem csupán aprók; a mesterséges intelligencia 1,4-szer gyakrabban generál súlyos logikai hibákat, mint az emberi programozók.
A fő ok abban rejlik, hogy a mesterséges intelligencia lényegében egy „prediktív gép”. Jól meg tudja tippelni, hogy mi lesz a következő betű az internetről származó hatalmas mennyiségű adat alapján, de semmit sem tud egy összetett rendszer valós kontextusáról.
A mesterséges intelligencia képes csiszolt, szintaktikailag helyes kódot írni (1,76-szor kevesebb helyesírási hibával, mint az emberek), de működésbe hozva ez a kód „szabotőrré” válhat a rendszer más komponenseivel való ütközések miatt.
Az Achilles-sarka a biztonság.
A szakértőket leginkább a biztonsági rés aggasztja. A mesterséges intelligencia gyakran ismétli meg a klasszikus hibákat, például a jelszavak nem biztonságos kezelését, az érzékeny információk felfedését vagy az SQL-injekciós támadások elősegítését.
Olyan ez, mint egy emberfeletti sebességgel járó építőmunkás, aki elfelejtette beszerelni az ajtózárat. A jelentések szerint a mesterséges intelligencia biztonsági réseinek 1,57-szer nagyobb a valószínűsége, hogy kudarcot vallanak, mint az emberek. A Microsoftnak az a kötelessége, hogy 2025-ben rekord számú, 1100 sebezhetőséget javítson ki, intő jel.
Ahogy a forráskód mennyisége drámaian megnő a mesterséges intelligencia miatt, a biztonsági mérnökökre nehezedő nyomás is exponenciálisan nő. A sebezhetőségek javításának költsége egy termék bevezetése után mindig sokszorosa annak, mintha mindent a kezdetektől fogva helyesen csinálnánk.
„Kódolóból” „moderátorrá”
Bár az 1,7-szeres hibaszázalék riasztónak tűnhet, ez nem jelenti azt, hogy hátat kellene fordítanunk a mesterséges intelligenciának. A jó hír az, hogy a mesterséges intelligencia 1,32-szer jobb a tesztszkriptek írásában, mint az emberek.
A modern programozók szerepe drámaian változik. Már nem szorgalmas „gépelők”, hanem fokozatosan építészek és értékelők lesznek. A legfontosabb készség 2025-ben nem a programozási nyelvek memorizálása, hanem a kritikai gondolkodás, amely képes felismerni a mesterséges intelligencia látszólag naiv, de veszélyes hibáit.
Szigorú „ellenőrzőpontokat” kell létrehoznunk, az emberi intuíciót a hibaellenőrző eszközök automatizálásával ötvözve. Végső soron a mesterséges intelligencia csak akkor igazán hatékony, ha olyan programozók kezében van, akik tudják, hogyan kérdőjelezzék meg és merjék elutasítani a hibás eredményeket.
A programozás jövője nem abban rejlik, hogy ki ír gyorsabban kódot, hanem abban, hogy ki kezeli jobban a támogató eszközöket.
Forrás: https://tuoitre.vn/code-do-ai-viet-nhanh-hon-nhung-loi-nhieu-gap-1-7-lan-con-nguoi-20251222173455961.htm
Hozzászólás (0)