Meredith Whittaker, nuo 2022 metų vadovaujanti Signal Foundation, siekia sukurti ilgalaikį finansavimo modelį, kuris leistų šiai susirašinėjimo platformai veikti dešimtmečius be jokių kompromisų ar korporacinių ryšių. Jos vizija – sukurti technologijų ekosistemą, kuri iš esmės atmeta sekimą ir centralizuotą kontrolę.
DI pokyčiai: „Šie ne jūsų draugai“
Whittaker griežtai kritikuoja dabartinius DI pokalbių robotus, tokius kaip ChatGPT ir Claude. „TechCrunch“ interviu kontekste ji pabrėžė: „Šie ne jūsų draugai. Šie nėra sąmoningų būtybės. Šie nėra sąmoningų pokalbio partnerių.“ Pasak jos, šie sistemos tiesiog vidurkina jau esamus duomenis, o ne mąsto arba suvokia.
Ji pačia naudoja DI įrankius tik uždaviniams, tokiems kaip dokumentų formatavimas, bet kategoriniu atmetia juos kaip minties partnerius: „Aš juos neklausiau. Aš labai atsakingai suvokiu savo mąstymą ir rašymą, ir nenoriu, kad idėjos formavimo procesas būtų apribotas ar užsegamas sistemą, kuri vidurkina tai, kas jau yra.“
Copilot scenarijus – „galinės durys“ Signal sistemai
Whittaker taip pat kritikuoja „Microsoft“ DI vadovo Mustafa Suleymano prognozę, kad vartotojai gali pavergti Copilot visus šiemetinius Kalėdų pirkinius. Jos atveju – Copilot klausosi šeimos grupės pokalbio, kad nustatyti, kas ką nori – reiškia suteikti prieigą prie „mano kredito kortelės, naršyklės, Signal, galimybės rašyti mano broliams ir seserims mano vardu, mano namo adresą [ir] mano kalendorių“.
„Ką tik apibūdinate sistemą, turinčią labai plačią prieigą prie kelių programų ir paslaugų“, – teigė Whittaker. „Signal kontekste tai būtų iš esmės galinių durų (backdoor) veiksmas.“
Technologijų kritikos šaknys
Whittaker karjera technologijų sektoriuje prasidėjo 2006 metų liepą. Dirbdama „Google“, ji tapo viena ryškiausių technologijų kritikių: organizavo darbuotojų protestus prieš diskriminacinę praktiką ir viešai pasisakė prieš įmonės karinius kontraktus. 2017 metais ji sužinojo apie „Google“ sutartį su JAV gynybos departamentu dėl dirbtinio intelekto (DI) pagrindu veikiančių dronų taikinių nustatymo ir sekimo technologijų kūrimo.
Ši patirtis jai atskleidė, kad korporacinė retorika apie „atvirumą“ ar „20 procentų laiko“ kūrybinėms idėjoms dažnai yra tik fasadas. Pasak Whittaker, tokia retorika, kuria ji pati kadaise tikėjo, yra ne kas kita, kaip atsakomybės vengimas. 2017 metais ji taip pat įkūrė „AI Now Institute“, siekdama geriau suprasti dirbtinio intelekto poveikį visuomenei.
DI momentas ir jo ribos
Whittaker pabrėžia 2012 metus kaip lūžio tašką, kai „AlexNet“ algoritmo publikavimas sujungė reikiamus komponentus ir įžiebė dabartinį dirbtinio intelekto bumą po ilgo technologinio „žiemos“ laikotarpio. Tačiau ji skeptiškai vertina dabartinį DI entuziazmą. Kai kurie patys autoritetingiausi DI tyrėjai, pasak jos, atvirai kritikuoja šią kryptį, teigdami, kad daugelis dabartinių sprendimų tiesiog neveikia taip, kaip žadama.
Šiame kontekste Signal vaidmuo tampa dar svarbesnis. Platforma siekia būti modeliu, kuris įrodo, jog įmanoma sukurti technologiją, nepriklausančią nuo „stebėjimo kapitalizmo“ – sistemos, kurioje prieiga prie išteklių yra ribojama pagal gebėjimą atlikti produktyvų darbą įmonėms, kurios moka pinigus.
Augimas per pasitikėjimą
Signal populiarumą skatina ne tik vartotojų noras privatumo, bet ir didelių organizacijų sprendimai. Pavyzdžiui, 2020 metais Europos Komisija rekomendavo Signal kaip vienintelę susirašinėjimo priemonę savo nariams. Tokie žingsniai suteikia platformai reikšmingą postūmį.
Vis dėlto, Whittaker pabrėžia, kad išlaikyti tokią infrastruktūrą yra brangu. Prieš daugiau nei dešimtmetį „Measurement Lab“ serverių infrastruktūros išlaikymas vien už ryšio kanalus kainuodavo 40 milijonų dolerių per metus. Todėl jos pagrindinė užduotis – rasti tvarius finansavimo šaltinius, kurie užtikrintų nepriklausomybę.
Saugumo ir kontrolės dilema
Whittaker griežtai atmeta bet kokius siūlymus, kurie galėtų susilpninti šifravimą. Ji pabrėžia, kad bet koks bandymas įdiegti „galines duris“ Signal sistemoje iš esmės sugriautų jos esmę.
Šiuo metu Whittaker vengia vertinti kitų platformų vadovų, pavyzdžiui, Pavelo Durovo, teisinius iššūkius, nurodydama, kad trūksta konkrečios informacijos apie tokių veiksmų pagrindimą. Jos dėmesys išlieka sutelktas į Signal misiją – sukurti technologiją, kurios būtinybė, jos nuomone, dabar yra akivaizdi visiems. Ateinančiais metais paaiškės, ar pavyks šį modelį išlaikyti be jokių korporacinių įsipareigojimų.
