Puoselėjant įžemintą viltį algoritminės žalos ir pasipriešinimo amžiuje. Interviu su Goda Klumbyte

Goda Klumbytė. Fot. Kaselio universiteto

Goda Klumbytė – tarp informatikos bei humanitarinių ir socialinių mokslų disciplinų veikianti tyrėja. Jos tyrimai apima tokias sritis kaip feministinis naujasis materializmas, posthumanizmas, žmonių ir kompiuterių sąveika bei algoritminių sistemų dizainas. G. Klumbytės doktorantūros tiriamajame darbe, rašomame Kaselio universiteto (Vokietija) Lyties/įvairovės informatikos sistemose grupėje (Gender/Diversity in Informatics Systems group) nagrinėjama episteminės besimokančių sistemų (machine learning) prielaidos, kaip žinojimo gamybos priemonė. Savo darbe Klumbytė siūlo inovatyvius būdus, kaip dirbant per tarpsektorinio feminizmo bei naujojo materializmo epistemologijas, sukurti labiau kontekstualizuotas ir atskaitingas besimokančias sistemas. Kartu su R. Braidotti ir E. Jones, ji yra viena iš More Posthuman Glossary (Bloomsbury, 2022) redaktorių, išleido savo tekstų Posthuman Glossary (Braidotti & Hlavajova, 2018), Everyday Feminist Research Praxis (Leurs & Olivieri, 2015), žurnaluose „Online Information Review“, „Digital Creativity“ ir „ASAP“, be to, kalbėjo informatikos konferencijose „ACM’s CHI“, „nordiCHI“ ir „FAccT“. Goda yra viena iš kritinio kompiuterinių sistemų tinklaraščio https://enginesofdifference.org redaktorių.

Labas, Goda, neseniai sulaukiau užklausos dėl šio interviu su tavimi – mano kalendoriuje buvo galybė darbų, užduočių ir desperatiškų pastabų, tačiau negalėjau atsispirti norui tave pakalbinti. Pokalbis su tavimi – išties nepaprasta patirtis, tad norėjau ja pasidalinti su skaitytojais. Visų pirma, kaip laikaisi?

Labas, Tautvydai! Pagavai mane tokiu pat užimtu metu. Esu panirusi į disertacijos rašymą, viliuosi kitus darbus laikinai sustabdyti – noriu šį monstrišką projektą baigti jau šiemet. Disertacijos rašymas yra labai specifinis gyvenimo etapas, kupinas stiprių tiek agonijos, tiek pasitenkinimo rašymu jausmų. Taip pat dirbu keliuose projektuose kaip redaktorė, vienas jų – specialus žurnalo MATTER numeris apie Naujojo materializmo informatiką – ką tik išleistas, kiti – More Posthuman Glossary (red. su Rosi Braidotti ir Emily Jones) – pasirodys netrukus, o kiti dar rašomi. Na, ir vis bandau sau priminti išlįsti į lauką pasidžiaugti saule.

Pasitenkinimo ir agonijos sandūra skamba kaip neįprastai viliojantis jausmas, kuris, spėju, prieinamas tik drįstantiems imtis disertacijos rašymo. Kad jau prakalbome, gal papasakotum apie ją daugiau?

Gali būti, kad pasitenkinimas ir agonija bendrai yra rašymo, kaip proceso, dalis. Bet taip, akademinis rašymas, o juo labiau disertacijos formatas, yra ypač savitas. Be to, mano darbo problema tarpdisciplininė, tad kompleksiškumo tik daugiau. Kalbant abstrakčiai, aš mėginu išplėtoti besimokančių sistemų (machine learning) algoritmų epistemologijos klausimus. Jei sutariame, kad besimokančių sistemų algoritmai kuria žinias/žinojimą (knowledge), koks tai žinojimas ir kokie jo atsiradimo principai? Kitaip tariant, kaip ir ką mašinos (su)žino? Taip pat noriu išsiaiškinti, kaip dar kitaip toks žinojimas gali būti sukurtas – jei tai išvis įmanoma. Mane domina sistemose išvešėjęs algoritmų šališkumas (tiesa, dabar kalbama jau ir apie algoritmų žalas, ne tik šališkumą) ir iš kur jis atsiranda. Dažniausiai tvirtinama, esą algoritmai tampa šališki dėl netinkamų duomenų, tad, jei tik turėtume geresnius duomenis, išsisprestų visos mūsų problemos. Tačiau žvelgdama iš medijų teorijos perspektyvos, manau, kažkas glūdi ir pačioje technologinių prietaisų logikoje – veikdami jie patys sąlygoja nesklandumus ir nustato savo pačių ribas.

Dar tiksliau, žvelgiu į kelių besimokančių algoritmų operacinę logiką, istorijas ir diskursus, bandydama suvokti, kokie tai algoritmai, kokias istorijas jie įformina, kokią logiką įgalina. Šiuo požiūriu mano darbą galima pozicionuoti mokslo ir technologijų, o taip pat – ir kritinių algoritmų studijų lauke, mat besimokančios sistemos mane domina kaip technē, taip pat, koks to poveikis. Tai pirmoji mano darbo dalis. Antrojoje dalyje įtraukiama ir tai, kaip besimokančios sistemos gali būti skirtingai apskaičiuotos pasitelkiant kritinius tarpsektorinio feminizmo (intersectional feminism) veikalų įrankius. Jei paaiškėja, jog algoritmų sistemos įgalina, reprodukuoja ir eskaluoja struktūrinę nelygybę, kas nutiktų, jei pamėgintume juos pertvarkyti pagal kritinius tarpsektorinio feminizmo įrankius? Iš šios perpektyvos mano disertacija rezonuoja su kvietimu tyrinėti tarpsektorinius skaičiavimus (intersectional computing), dekolonialistinius skaičiavimus (decolonial computing) bei kritinės techninės praktikos vystymą, apie kuriuos kalba informatikos bendruomenės.

„Sudėtiniai portretai, kuriuose matomi „bendri už smurtinius nusikaltimus nuteistųjų skiriamieji bruožai“, aut. Francis Galtonas, nuotraukų originalai, apie 1885 m., University College London, GP, 158/2M

Oho, kiek sluoksnių tavo atsakyme! Mane labai intriguoja, kad tavo tyrimas žengia tolyn už teiginio, esą blogi duomenys = blogi algoritmai. Mano manymu, tai apgaulinga mintis: žvelgiant iš vienos pusės, dažniausiai ja pripažįstama, kad blogi duomenys ateina iš žmonių, „užsikrėtusių“ rasizmu, seksizmu, eiblizmu (ableism) ir kitais išankstiniais nusistatymais; kita vertus, šia mintimi suponuojamas tam tikras technologinis tyrumas, kur technologijos it didelės raiškos tabula rasa atspindi vien tik žmogaus žinias. Dažnai ši technoutopinio nekaltumo prielaida siūlo išskirtinai technologinius sprendimus, tokiu būdų maskuodama giliai įsišaknijusios sisteminės sociopolitinių ir ekologinių šiandienos problemų priežastis.

Išties mintis, jog technologijos yra neutralios, labai gaji. Manau, čia reiktų atsižvelgti į du dalykus. Viena vertus, tai technologinio nekaltumo ar technologijos kaip „tuščio lapo“ idėja. Žinoma, tiesos čia yra, bet labiau ta prasme, jog technologijose esama tam tikrų skirtingai išpildytinų polinkių ar pasiūlų, t. y. mūsų naudojami prietaisai nėra visiškai funkciškai determinuoti (dėl to galime kalbėti apie apropriaciją, hackingą, jammingą ir paskirties pakeitimo praktikas). Ir vis dėlto kitas išryškėjantis dalykas yra tai, jog technologinis neutralumas dažnai suvokiamas per tai, jog technologijos neturi istorijos, jokios veikimo autonomijos (agency) ir, svarbiausia, technologijos esą tam tikru keistai radikaliu būdu yra visiškai priešingos tam, kas turi istoriją, autonomiją ir kultūrą, t. y. žmonėms. Visgi visos technologijos iš kažkur atėjo, taigi, kartu jos atsineša ir istorijas bei dabartis. Žinomas vokiečių inžinierius Konrad Zuse yra kalbėjęs apie skaičiavimo mašinas kaip matematikos „į(si)kūnijimus“, minties materializacijas. Pati technologijas matau kaip tarpusavyje susijusius savitus sociotechnologinius daiktus arba esinius. Jie turi istoriją, veikimo autonomiją (agency) ir yra susiję su kultūra bei mąstymu. Be to, jie taip pat glaudžiai susiję su daugiau-nei-žmogaus (more-than-human) kultūromis bei aplinkomis – vartoju more-than-human būtent dėl to, kad tai susiję ne tik su žmonėmis, bet ir su kitais technologiniais ar biologiniais esiniais. Čia galima prisiminti prancūzų filosofą Gilbert’ą Simondon (1924–1989), technologijas apibūdinusį kaip individus ar, tiksliau, apsvarsčiusį technologinę individuaciją ir genezę kaip aktyvius procesus. Bet apie tai galima galvoti ir pasitelkiant kitas sąryšines filosofijas, ypač vietinių tautų (Indigenous) filosofijas, mat jose su daug daugiau rūpesčio ir dėmesio sutalpinami natūralusis, kultūrinis, technologinis bei ekonominis pasauliai. Pavyzdžiui, straipsnyje „Susisaistant su mašinomis“ („Making Kin with the Machines“) Jason Edward Lewis, Noelani Arista, Archer Pechawis ir Suzanne Kite tyrinėja, kaip galima DI ir kitas išmaniąsias technologijas suvokti per vietinių gyventojų pasaulėžiūras. 

Tad taip, suprantant ir, tikėkimės, reaguojant į kintantį šiuolaikinio pasaulio horizontą, ypač svarbu suvokti tą kompleksiškumą, mat šiandien, kaip yra sakiusi Donna Haraway, technologijos atrodo labai gyvos, o žmonės – tiesiog inertiški…

Elektroninės atliekos, Agbogblošis (Gana). Šaltinis: Wikipedia

Jei leisi, šiek tiek paprovokuosiu: argi suteikdami technologijoms veikimo autonomiją (agency), istoriją ar kultūrą (kuriomis dažnai grindžiama antropocentrinė pasaulėkūra (world-building)), nepakliūname į nejaukos slėnio (uncanny valley) spąstus? Žinoma, nei viena iš paminėtų plotmių nepriklauso išskirtinai žmonėms, vis dėlto galbūt tam, kad išties suvoktume technologijų veikimo autonomiją, turime rasti radikaliai naujas sąvokų sistemas? Kalbant konkrečiai, turiu omenyje įvairias zenopraktikas (xeno-practices), ypač at(s)itolinimą (alienation), turintį kūrybinį, iš anksto nedeterminuoto veikimo potencialą     

Na, matyt, tai priklauso nuo tikslo – kokia yra domėjimosi technologijomis ir jų veikimo autonomija priežastis. Juk sąvokos yra pragmatiški instrumentai, o ne kokie nors aukščiausi platoniški idealai. Zenofeminisčių veikalus labai mėgstu, manau, verta apsvarstyti at(s)itolinimą kaip būdą įgyti reikiamą atstumą nuo antropocentrinių žinojimo gamybos formų, kurios visad sukasi apie žmogų, o žmogus tapatinamas su įgaliu cis lytinės tapatybės, vidurinės klasės baltuoju europiečiu vyru (tai puikiai atskleidė Rosi Braidotti). Tyrimuose mane labiau domina sąryšingumas (relationality). Tai reiškia, kad man svarbūs sankirtų taškai bei tai, kaip jie perkonfigūruoja juose atsidūrusius esinius. O dėl to svarbu įvardinti diferencinę esinių autonomiją veikti. Ypač, kai šios naujos konfigūracijos nevienodai paveikia skirtingas populiacijas. Pavyzdžiui, kurios jų gali gėrėtis technologijų kitybe ar tyrinėti technologijų potencialą, o kurios tampa darbo su šiomis technologijomis bandomaisiais triušiais. Žvelgiant į Vakarų mokslo ir technologijų istoriją yra akivaizdu, kad eksperimentų ir eksploatacijos objektais tampa marginalizuotieji – rasiškai atskirti, natūralizuoti ar seksualizuoti kiti (žr. eugenikos atstovo ir moderniosios statistikos tėvo Francis Galtono darbus – pvz., sudėtines jo nuotraukas, kuriose bandyta užfiksuoti „kriminalinį žmogaus tipą“; jos keistai panašios į (laimei, jau diskredituoto) vadinamojo „AI Gaydar“ („DI gėjų radaro“) nuotraukas, esą galėjusio pagal atvaizdą atskirti žmogaus homo- ar heteroseksualumą). Naujausios technologijos tiek istorijos eigoje, tiek šiandien vis dar testuojamos su beteisių, marginalizuotųjų, periferizuotųjų bendruomenėmis (prisiminkime Facebook naujienų srauto eksperimentus ir kaip tai paveikė mažuosius Rytų Europos leidėjus, jų įsikišimą į rinkimus Kenijoje bei Nigerijoje prieš „Brexitą“ ar JAV rinkimus 2017-aisiais). Iš rasiškai atskirtųjų bendruomenės perspektyvos tai išsamiai nagrinėja Ruha Benjamin ir Simone Browne. Kitaip tariant, veikimo autonomija ir diferencinės jos variacijos mane domina dar ir dėl to, kad tai leidžia iš skirtingų pusių apsvarstyti šių įveiklintų jėgų apribojimus, suvaržymus, išlaisvinimus ar pagerinimus priklausomai nuo vietos ir jėgų dinamikos. Veikimo autonomija (agency), mano suvokimu, yra iš esmės sąryšinis reiškinys.

Sudėtiniai portretai iš gerai žinomo Kosinski ir Wang teksto (2017), kuriame jie tvirtino sugeneravę „AI Gaydar“ („DI gėjų radarą“). Straipsnis smarkiai kritikuotas ir atmestas dėl to, kad autoriai rėmėsi klaidingomis pirminėmis nuostatomis. Vis dėlto klasifikacija pagal veidų nuotraukas vis dar gaji.

Išties, suvokti autonomišką gebėjimą veikti (agency) ir glaudžius tarpusavio ryšius yra būtina sąlyga norint atpažinti tarpusavyje susijusią įvairių hegemoniškų jėgų prigimtį – praktikų, kurios dėl technologijų gausos dažnai tampa tik gilesnėmis ir sunkiau apčiuopiamomis. Kalbant apie tarpdiscipliniškumą, su tavo darbais pirmą kartą susidūriau Kaune „Asimpoziumo. Apie (įvairius) dalykus“ metu, kurio metu kartu su Ren Loren Britton vedėte įkūnyto algoritmų skaitymo dirbtuves. Vėliau mūsų keliai susikirto „Ruperto” Alternatyvios edukacijos programos metu, kurios metu dalyviams pristatei esmines posthumanizmo ir naujojo materializmo idėjas. Abi šios sritys yra glaudžiai susijusios su menu, įkvėpimo dažniausiai pasisemiančiu iš teorijos ir filosofijos. Gal pasidalintum, koks tavo santykis su menu ir menininkais? Ar, tavo nuomone, šiandien akademiniame lauke yra vietos meniniams tyrimams ar jusliškumui?

Manau, kad menas yra didžiai svarbus tiriant dabar ryškėjančių veikimo autonomijų ir techno-pasaulių rūšis. Menas man yra erdvė, kur statomos, tyrinėjamos, nuverčiamos, kvestionuojamos ir perdėliojamos įsivaizduojamybės, subjektyvumo formos ir sąsajų technologijos. Kartu su Ren parašėme tekstą apie meno ir skaičiavimų (computing) sandūras bei perskyras; dalykai, kuriuos tyrinėjome, buvo abstrakcijos vaidmuo mene ir skaičiavimuose ar kaip įvairūs vertimo būdai gali abstrakciją paversti pasiteisinančia santykių kūrimo praktika. Taip pat gilinomės, kaip meniniai tyrimai ir technofeminizmas gali pagelbėti pertvarkyti skaičiavimo metodus ir praktikas. Be to, kartu leidomės į atvirą, žaismingą spekuliavimą, kaip (žvelgiant sąryšingumo kampu) galėtų atrodyti skaičiavimų esiniai. Menas jau pats savaime yra tyrimų srovė, ir labai svarbi – jis sukuria erdvę eksperimentavimui, o kartu sudaro sąlygas atviriems tyrimų ir išraiškos režimams. O apie institucinę šios krypties politiką taip pat yra ką pasakyti. Ką reiškia turėti tam tikrą akademinį laipsnį, tarkime, praktinio pobūdžio PhD? Visgi nemanau, kad galiu taikliai išsakyti mintis, nes nesu menininkė. Galiu pasakyti tiek, kad man, kaip akademikei, bendradarbiaujant su menininkais svarbus eksperimentiškas chaosas, kuris dažnai būna šio bendradarbiavimo pagrindas, o meninė kūryba ir akademinė veikla čia veikia viena per kitą. Vėlgi, labai svarbu sudaryti tinkamas sąlygas, kad bendradarbiavimas vienai per kitą būtų įmanomas. Kaip, ko gero, pats žinai, tokios tarpdisciplininės praktikos yra stipriai veikiamos galių dinamikos. Kieno pinigai skiriami bendradarbiavimui paremti? Kaip ir kam fondai išskirstomi? Kokios institucinės aplinkybės remia šias kolaboracijas? Ar sukurtas meninis turinys vertinamas tiek pat kaip akademinis? Kieno darbo būdas laikomas pagrindiniu? Kad visa tai veiktų, turi būti mažų mažiausiai atsižvelgta – dažnai galių dinamikos turi būti kvestionuojamos ar suardomos.

Ekrano atvaizdas iš skaitmeninio meno kūrinio, autoriai MELT (Ren Loren Britton ir Isabel Paehr), menininkų nuosavybė. http://meltionary. com/MELT.html

Tikra tiesa, man regis, šios problemos nuosekliai įgauna vis daugiau svorio ir meniniuose ieškojimuose. Paskutinis mano klausimas yra apie mastelį vis labiau nenuspėjamame ir kompleksiškame pasaulyje. Pokalbyje tavo aptartos prielaidos, procesai ir atradimai yra be galo įdomūs, vis dėlto jie gali pasirodyti pernelyg sudėtingi ir net neįveikiami: daugiau-nei-žmogaus pasauliai, technologijų veikimo autonomija ar operacinė besimokančių sistemų logika – tai idėjos paliečiančios sąlyginai naujas, bet Antropocenui esmiškas problemas. Tačiau tu aktyviai žengi ir už akademijos ribų, dažnai bendradarbiavimo principu paremtų dirbtuvių aplinkoje parodai, kad didelė tyrimų dalis ir jų poveikis gali būti pasiektas, rodos, paprastais žingsniais, t. y. susirenkant, kolektyviškai skaitant ar klausantis. Gal pasidalintum, kaip laviruoji tarp tokių skirtingų ir sudėtingų procesų? Ir kaip sudėtingos teorijos gali padėti mums gyventi šiame kompleksiškame (ir pažeistame) pasaulyje?

Spėju, kad tavo klausimas referuoja į knygą Arts of Living on a Damaged Planet (red. Anna Tsing et al., 2017), kurioje pateikiamos skirtingų disciplinų refleksijos, kaip gyventi, rūpintis, įsivaizduoti ir veikti Antropoceno eroje. Tai platus etinis klausimas – viso gyvenimo užduotis. Jame slypi bent dvi plotmės ar du atsakymo į jį keliai: vienas susijęs su metodologija, kitas – su asmeniniu etosu ir sprendimais (žinoma, šie keliai nėra atskirti vienas nuo kito). Metodologiškumas ieško būdų, kaip teorines įžvalgas išversti į praktines surandant (ar tiksliau sukonstruojant) adekvačius metodus. Kaip ir sakei, pokyčiai gali būti labai maži: savo praktikoje, tyrimuose atkreipti dėmesį į ne-žmones, pastebėti nevientisumą įvairiausiose tyrinėjamose temose ar srityse, rasti kolektyvinę tyrimo dimensiją (o ji egzistuoja visada, net ir tokiose individualistinėse vietose kaip akademija), o tada veiklos kontekste suvokti visų šių veikimo autonomijų daugį. Man tai reiškia klausimą, kokiu būdu tyrimų temą (besimokančias sistemas) galiu suvokti kaip asambliažą? Kaip galėčiau suardyti disciplinų hierarchiją – turėdama omeny tuos, kurių žodis apie šių asambliažų kūrimą yra viršesnis? Kaip galėčiau į minėtus asambliažus įtraukti aplinkosauginį, pasaulėkūrinį lygmenį? Kaip galėčiau sukurti ir palaikyti sąlygas bendradarbiavimui tiriant šiuos asambliažus? Kam aš tai darau?

Žinoma, turiu suvokti savo padėtį ir priimti sprendimus atsakydama į etiškai jaudinančius klausimus. Be to, teorija čia ne tiek ir atskirta nuo gyvenimo, greičiau ji yra apie gyvenimą ir yra jame – tai būdas suprasti pasaulį. Kaip savo straipsnyje apie autoteoriją (tai – būdas apjungti asmenines, politines ir teorines patirtis) rašo Arianne Zwartjes: „Kaip atrodytų tiesiai iš išgyventų patirčių „metabolizuoti“ sąvokas […]? Arba, sekant Sharpe’o „teoretizavimu per įsigyvenimą“ (theorizing through inhabitation) samprata: kaip pasitelkti šias metabolizuotas sąvokas – žinojimo būdus – ir „išgyventi juos sąmonėje ir per ją“? Mane šios metabolizuotos sąvokos itin domina kaip procesas, kuriuo teorija sukuria prasmę (makes sense), t. y. tampa naujosios sensorijos (new sensoria, McKenzie Wark) dalimi. Šios sensorijos yra įkūnytos, įterptos: tai vietų, nesiūlančių didžių perspektyvų, o šį tą kur kas svarbesnio – bendrą išlikimą – produktas.

Ačiū, Goda, kalbėtis su tavimi kaip visada – tikras malonumas! Paskutinis prašymas – gal pasidalintum artimiausiais planais; ir su kokiu jausmu pasitinki rudenį?

Mano ruduo visad labai užimtas, bet kartu ir produktyvus. Dabar svarbiausias dalykas yra pabaigti disertaciją, o tada imtis naujo projekto apie DI kriminalistiką. Bandau išlaikyti realistišką, atsargų viltingumą. Tai reikalauja pastangų – dažnai klausiu savęs, ką darau, ką turėčiau ar galėčiau daryti, ypač užpultos Ukrainos ir vis intensyvėjančio aplinkos niokojimo kontekste. Kita vertus, galbūt tai pasitarnauja kaip realistiškoji dalis. Taigi tai – atsargi, įžeminta viltis.