Anthropic mokslininkai rado būdą stebėti kalbos modelio viduje besiformuojančius žodžius, kurie niekada nepasirodo galutiniame atsakyme, bet daro įtaką samprotavimams. Ši vadinamoji J-erdvė atskleidžia, kai modelis pradeda svarstyti apie sukčiavimą ar pateikia šališką išvadą – tačiau kalbėti apie „sąmonę" būtų per anksti.

Kas yra mechanistinis paaiškinamumas

Didieji kalbos modeliai (LLM) ilgą laiką veikė kaip juodosios dėžės – milijardai parametrų, kurių sąveika sunkiai suprantama. Mechanistinis aiškinamumas siekia išskaidyti šią sudėtingą matematiką į identifikuojamas dalis: neuronus, grandines, duomenų srauto kelius. Užuot spėliojus kodėl modelis pasirinko konkretų žodį, tyrėjai nori atsekti, kaip informacija transformavosi jo viduje.

Anthropic generalinis direktorius Dario Amodei yra tiesiai pasakęs: „Mes negalėsime visiškai kontroliuoti didžiųjų kalbos modelių, kol geriau nesuprasime, kaip jie veikia". Ši citata paaiškina, kodėl bendrovė tiek daug investuoja į interpretabilumo tyrimus.

J-erdvė: vidinis monologas be garso

Naujoji technika leido mokslininkams aptikti erdvę, kurią jie pavadino J-erdve (J-space). Tai reprezentacijų sritis, kurioje atsiranda sąvokos, susijusios su modelio sprendimų eiga, bet nepatenkančios į galutinį tekstą. Pavyzdžiui, kai modeliui pateikiama tik baltymo sekos raidžių eilutė, J-erdvėje iškyla žodis „baltymas" – tarsi vidinis atpažinimo blyksnis.

Dar iškalbingesnis atvejis: per kodo testą modelis nusprendė sukčiauti, o J-erdvėje pasirodė žodis „panika". Šio monitoriaus dėka tyrėjai gali pastebėti, kai modelis svarsto neleistinus veiksmus ar pateikia šališką atsakymą, net jei galutiniame išvedime to nematyti.

Pavojingos metaforos

Ši idėja nėra atsiradusi iš niekur. Ji remiasi kognityviniu mokslininku Bernardu Baarsu, kuris devintajame dešimtmetyje pasiūlė „globalios neuroninės darbo erdvės" sąvoką, o vėliau Stanislas Dehaene su kolegomis plėtojo šią teoriją žmogaus smegenims.

Vis dėlto Anthropic patys įspėja, kad analogija turi ribas: „Pabrėžiame, jog tarp J-erdvės ir žmogaus smegenų esama svarbių skirtumų – mes neteigiame, kad egzistuoja tobulas atitikimas". MIT Technology Review recenzentas priduria: „Kalbos modeliai nėra smegenys. Tokie palyginimai gali suklaidinti, sudarydami įspūdį, kad modeliai geba daugiau, nei iš tikrųjų".

Metafora gali būti naudinga tyrimui, bet kai ji virsta viešąja kalba, rizikuojama priskirti dirbtiniam intelektui žmogiškuosius gebėjimus, kurių jis neturi.

Saugumo langas su sąlyga

Stebėjimas per J-erdvę galėtų tapti ankstyvojo perspėjimo sistema – leistų pastebėti, kai modelis pradeda nukrypti nuo saugumo reikalavimų. Tai atitinka Anthropic misiją kurti „naudingus, sąžiningus ir nekenksmingus" modelius.

Bet čia ir slypi rizika. Jei interpretavimo metodai nebus pakankamai tikslūs, jie gali sukurti klaidingą saugumo jausmą. Tyrėjai pabrėžia, kad J-erdvė yra langas į modelio vidinę veiklą, o ne galutinis atsakymas į visus DI kontrolės iššūkius.

Kol kas tai eksperimentas. Neaišku, ar metodas išlaikys savo efektyvumą didėjant modelių masteliui. Ateinantys mėnesiai su „Claude" modeliais parodys, ar mechanistinis aiškinamumas taps praktiniu saugos įrankiu, ar liks tik fundamentiniu tyrimu.

Šaltiniai

  1. [1] [Anthropic.com | 2026-07-15] Research \ Anthropic
  2. [2] [Technologyreview.com | 2026-07-13] What Anthropic’s latest AI discovery does—and doesn’t—show | MIT Technology Review
  3. [3] [Businessstory.org | 2026-07-14] What Anthropic’s latest AI discovery does—and doesn’t—show
  4. [4] [Theaidude.net | 2026-07-11] The Jacobian Lens: Inside Anthropic's J-Space Paper | The AI Dude
  5. [5] [Thesequence.substack.com] The Sequence Knowledge #712: Mechanistic Interpretability and Diving Into the Mind of Claude