„Google DeepMind“ vadovas Demis Hassabis pabrėžia būtinybę suvaldyti dirbtinio intelekto keliamas grėsmes pasauliniu lygiu. Nors technologijų lyderiai sutaria dėl egzistencinių rizikų mažinimo, rinkoje stiprėjantis atvirojo kodo modelių spaudimas kelia naujų iššūkių uždaroms sistemoms.
Susijungimas dėl bendro tikslo
Dabartinė „Google DeepMind“ struktūra yra vidinio susijungimo rezultatas. „Google“ dar 2014 metais įsigijo D. Hassabio įkurtą startuolį „DeepMind“ ir kurį laiką valdė jį kaip atskirą įmonę patronuojančioje bendrovėje „Alphabet“ (buvusi „Google“ motininė kompanija). Tuo pat metu pati „Google“ turėjo atskirą dirbtinio intelekto tyrimų komandą, žinomą kaip „Google Brain“. Šių jėgų sutelkimas žymi naują etapą kovoje dėl lyderystės rinkoje.
Pats startuolis „DeepMind“ buvo įkurtas dar 2010 metais. Tai buvo laikotarpis, kurį šiandien, sparčiai vystantis technologijoms, galima vadinti dirbtinio intelekto eros pradžia. Visi pagrindiniai ingredientai ir vizija buvo sujungti būtent tais metais, siekiant sukurti bendrąjį dirbtinį intelektą (AGI). Po ketverių metų, 2014 metais, įmonė buvo parduota „Alphabet“ grupei.
Egzistencinė rizika ir bendras sutarimas
D. Hassabis neseniai pasirašė trumpą, vos 22 žodžių pareiškimą dėl dirbtinio intelekto keliamų pavojų. Šį dokumentą taip pat pasirašė „OpenAI“ vadovas Samas Altmanas ir kiti žinomi technologijų sektoriaus atstovai. Pareiškime teigiama, kad dirbtinio intelekto sukelto žmonijos išnykimo pavojaus mažinimas turėtų tapti pasauliniu prioritetu, kartu su kitomis visuotinėmis grėsmėmis, tokiomis kaip pandemijos ar branduolinis karas.
Rizikos lieka. Nors toks pareiškimas skamba dramatiškai, pramonėje kyla klausimų, ar tai yra pati didžiausia ir realiausia grėsmė šiuo metu. Dalis ekspertų mano, kad dėmesio sutelkimas į tolimą ateitį atitraukia visuomenę nuo dabartinių problemų, tokių kaip dezinformacija ar autorinių teisių pažeidimai.
Atvirojo kodo modelių spaudimas
Didelėms technologijų bendrovėms nerimą kelia ne tik saugumas, bet ir konkurencinė aplinka. Viešumoje pasirodęs vidinis dokumentas atskleidė nuomonę, kad „Google“ neturi išskirtinio konkurencinio pranašumo (angl. moat). Jame teigiama, kad atvirojo kodo dirbtinio intelekto modeliai arba nutekinti algoritmai, kuriuos žmonės gali paleisti tiesiog savo nešiojamuose kompiuteriuose, ilgainiui aplenks uždarus komercinius sprendimus. Taip yra todėl, kad atviros ekosistemos vystymosi istorija rodo greitesnį progresą nei bet kurio uždaro konkurento darbas.
D. Hassabis patvirtino, kad šis dokumentas yra tikras. Vis dėlto jis pabrėžė, kad tai yra įprastos „Google“ vidinių diskusijų kultūros dalis. Vadovas nesutinka su dokumento išvadomis ir teigia turintis kitokių idėjų apie tai, kur slypi tikrasis „Google“ konkurencinis pranašumas.
Saugumo gairės specializuotose srityse
Vystant sudėtingus modelius, saugumo klausimai sprendžiami bendradarbiaujant su išorės ekspertais. Pavyzdžiui, kuriant biologinį modelį AlphaFold, skirtą baltymų struktūroms prognozuoti, buvo konsultuojamasi su daugiau nei 30 šios srities specialistų. Tarp jų buvo geriausi biologai, bioetikos ekspertai ir biosaugumo specialistai.
Kuriant šią sistemą, „DeepMind“ bendradarbiavo su Europos bioinformatikos institutu (EBI), kad saugiai išleistų visų baltymų struktūrų duomenų bazę. Šie partneriai padėjo nustatyti gaires, kaip saugiai dalintis tokia jautria informacija su mokslo bendruomene. Nors AlphaFold sulaukė didelio dėmesio ir kruopštaus vertinimo, tai buvo labai specifinė, specializuota mokslo sritis, todėl visuomenėje nekilo baimių dėl tiesioginės grėsmės žmonijai.
Ateityje reguliavimas vaidins dar didesnį vaidmenį. Jau dabar diskutuojama apie taisykles, kurios aiškiai apibrėžtų, ką leidžiama daryti tokioms kompanijoms kaip „Google“ ar „Microsoft“. Tikėtina, kad griežtėjantis teisinis rėmas privers technologijų milžinus dar labiau subalansuoti greitą plėtrą su saugumo reikalavimais.
