Didieji kalbų modeliai greitai rašo kodą, bet jų saugumo spragos lieka atviros. Moksliniai tyrimai rodo: be tradicinių verifikavimo įrankių autonomiškas AI programavimas rizikingas.

Dvigubas požiūris į problemą

Sąveika tarp didžiųjų kalbų modelių (LLM) ir kodo tikrinimo yra dvipusė. Parmos universiteto finansuojamoje apžvalgoje (Frontiers in Computer Science, 2025) autorių komanda įveda du atskirus kryptis: LLM4Verification – kai modelis padeda tikrinti programinę įrangą, ir Verification4LLM – kai tradiciniai metodai patikrina pačių modelių sugeneruotą kodą. Šis bifokalus raktas atskleidžia esminę priežastį: modeliai atkartoja žmonėms būdingas klaidas. Injekcijos spragos (pvz., SQL injection), netinkamas įvesties patvirtinimas ir atminties valdymo klaidos – viskas tai perkelia iš žmogaus rašyto kodo į mašininį.

Integracija su statiniais analizatoriais ir formaliais verifikavimo sistemomis šias problemas sumažina. Hibridiniai sprendimai, remiantis prompt engineering technikomis, ne tik geriau aptinka pažeidžiamumus, bet ir efektyviau juos ištaiso, mažindami paties modelio daromų klaidų skaičių.

Operacinių sistemų testas – nesėkmė

Sukurti saugų kodą bendro pobūdžio programoms yra viena užduotis, operacinių sistemų lygmuo – visiškai kita. Specializuotas OSVBench etalonas (AAAI, 2026) išbandė 12 pažangiausių modelių specifikacijų generavimo užduotyje, reikalingoje OS verifikavimui. Rezultatai: visi modeliai demonstravė labai ribotus pasiekimus. Specifikacija pateikiama per specialų programavimo modelį, bet užduoties sudėtingumas viršija dabartinių sistemų galimybes.

Ribos lieka aiškios. Kritinės infrastruktūros programinės įrangos kūrime dirbtinis intelektas kol kas negali veikti autonomiškai.

Kaip mokyti modelį saugumui

Saugumo kalibracijai tyrėjai naudoja etaloną, apimančią 45 CWE (Common Weakness Enumeration) kategorijas. Kiekviena užduotis susideda iš natūralios kalbos užklausos, pavyzdinio nesaugaus kodo, funkcinių vienetų testų ir specialių pažeidžiamumo testų – tie sėkmingai praeinami esant nesaugiam kodui ir sugenda, jei kodas saugus. Svarbu: kiekvienas pavyzdys dabar turi trumpą argumentacijos dalį, paaiškinančią, kodėl konkretus kodas nesaugus ir kaip saugi versija ištaiso problemą. Tai padeda modeliams suprasti priežastinius ryšius tarp struktūros ir spragų.

Kryptis: kodas kaip įrankis, ne tik rezultatas

Technologijos juda link multimodalinio kodo intelekto. Naujausiose apžvalgose (36Kr, 2026) išskiriamos dvi didelės kryptys: multimodalus kodo sintezė su vizualine informacija ir kodas orientuotas mąstymui ir veiksmai. Šioje koncepcijoje kodas tampa tarpine sąsaja: mąstymui, įrankių iškvietimui, autonominių agentų užduočių vykdymui.

Tai keičia vertinimo logiką. „Visual-code“ užduotys, kurios keičia būseną, negali būti vertinamos pagal izoliatus statinius rezultatus – reikia sekti visą vykdymo procesą. GUI pavyzdys: puslapis gali vaizdiškai atkurti ekranvaizdį, bet spustelėjus, keičiant maršrutą ar mastelį, kyla problemos. Ta pati – mokslinei vizualizacijai, vaizdo scenarijams, įkūnytam valdymui. Ateityje reikės išlaikyti pilną įrodymų grandinę: nuo vizualinių stebėjimų per įrankių iškvietimus ir kodo modifikacijas iki galutinio rezultato.

Artimiausi metai parodys, ar hibridiniai sprendimai – AI lankstumas plius matematiškai griežtas formalus verifikavimas – leis pasitikėti mašinų rašomu kodu kritinėse sistemose.

Šaltiniai

  1. [1] [Eu.36kr.com | Mon, 29 Ju] Next Steps for AI Coding: Latest Review of "Multimodal Code Intelligence" and Key Directions to Focus On
  2. [2] [Frontiersin.org | Fri, 24 Oc] A dual perspective review on large language models and code verification
  3. [3] [arXiv] Correctness Assessment of Code Generated by Large Language Models Using Internal Representations
  4. [4] [arXiv | 2026-06-30] An Empirical Study of Security Calibration in Large Language Models for Code