Meredith Whittaker, „Signal“ fondo prezidentė, perspėja, kad naujos kartos dirbtinio intelekto (DI) agentai, galintys valdyti pirkinius, susirašinėjimus ir finansus, reikalauja pavojingai plataus priėjimo prie asmeninių duomenų. Pasak jos, tokios sistemos sukuria prielaidas nuolatiniam stebėjimui, kurio vartotojai turėtų vengti.
Prieiga, kuri tampa „užpakalinėmis durimis“
Šiuolaikiniai DI modeliai, tokie kaip ChatGPT, Claude ar Gemini, vis dažniau pozicionuojami kaip asmeniniai pagalbininkai, galintys atlikti kasdienes užduotis. Tačiau M. Whittaker, remiantis MSN pateikta informacija, pabrėžia, kad tokia integracija reikalauja sistemos su itin plačia prieiga prie daugybės vartotojo programėlių ir paslaugų. „Signal“ kontekste, pasak jos, toks funkcionalumas taptų savotiškomis „užpakalinėmis durimis“ (angl. backdoor), pažeidžiančiomis privatumą.
M. Whittaker teigimu, esminė problema nėra DI gebėjimas atlikti užduotis. Problema yra tai, kad šios sistemos reikalauja precedente neturinčio priėjimo prie vartotojo duomenų, kad galėtų veikti. Tai, jos nuomone, yra stebėjimo kapitalizmo tąsa, kurioje technologijų milžinės siekia vis daugiau kontrolės.
Nuo „Google“ iki „Signal“ misijos
M. Whittaker, „Signal“ fondui vadovaujanti nuo 2022 metų, yra viena ryškiausių technologijų kritikų. Jos patirtis „Google“, kurioje ji dirbo nuo 2006 metų liepos, suformavo jos požiūrį į korporacinę kultūrą. Ji vadovavo darbuotojų protestams prieš diskriminacinę praktiką ir viešai kritikavo įmonės karinius kontraktus, pavyzdžiui, 2017 metais paaiškėjusį projektą dėl DI pagrindu veikiančio dronų taikinių parinkimo JAV kariuomenei.
Ši patirtis jai parodė, kad korporacinė retorika apie „atvirumą“ ar „20 procentų laiko“ kūrybinėms idėjoms dažnai yra tik fasadas. „Tai, mano nuomone, yra atsakomybės atsisakymas“, – teigia ji, prisimindama savo darbą didžiosiose technologijų įmonėse. Šiandien jos pagrindinė užduotis „Signal“ fonde – užtikrinti ilgalaikį finansavimą, kuris leistų išlaikyti susirašinėjimo platformą nepriklausomą nuo korporacinių interesų.
Technologijos, atmetančios stebėjimą
M. Whittaker siekia, kad „Signal“ taptų modeliu visiškai naujai technologijų ekosistemai. Jos teigimu, būtina rimtai vertinti pokyčius, reikalingus kuriant technologijas, kurios atmeta stebėjimą ir centralizuotą kontrolę. Tai nėra tik teorinis siekis – platformos populiarumas auga, kai didelės organizacijos, pavyzdžiui, Europos Komisija 2020 metais, rekomenduoja „Signal“ kaip saugiausią susirašinėjimo priemonę.
Ribos lieka. Nors „Signal“ siekia išlikti nepriklausoma, M. Whittaker pripažįsta, kad technologijų pasaulis susiduria su dideliais iššūkiais. Ji atkreipia dėmesį į 2012 metų lūžį, kai AlexNet algoritmas išjudino DI plėtrą po ilgos „žiemos“, tačiau šiandien daugelis ekspertų vis garsiau kritikuoja DI efektyvumą ir saugumą.
Atsakomybės klausimas
M. Whittaker požiūris į technologijų ateitį yra skeptiškas. Ji kelia klausimą apie visuomenę, kurioje prieiga prie resursų yra ribojama pagal tai, kiek produktyvaus darbo žmogus gali atlikti įmonėms. Jos nuomone, „Signal“ misija yra priešprieša šiai sistemai.
Kol kas neaišku. Nors „Signal“ stengiasi išlikti saugumo bastionu, iššūkiai, susiję su finansavimu ir infrastruktūros kaštais, išlieka dideli. Pavyzdžiui, „Measurement Lab“ serverių infrastruktūra prieš daugiau nei dešimtmetį kainavo 40 milijonų dolerių per metus vien už ryšio pralaidumą. M. Whittaker tikslas – išlaikyti „Signal“ gyvą dešimtmečius be jokių kompromisų, kad ši platforma galėtų tarnauti kaip pavyzdys, jog įmanoma kurti technologijas, kurios nepaverčia vartotojo duomenų preke.
