Разговарао: Ђорђе Петровић
Почетком септембра ове године, у Линцу је одржан Фестивал Арс Електроника, највећи светски фестивал новомедијске уметности. У изузетној конкуренцији, једно од најзначајнијих признања – Велика награда за уметничко истраживање у категорији S+T+ARTS пројеката – завршило је у рукама новосадског визуелног уметника др Владана Јолера. Награђени рад Calculating Empires: A Genealogy of Power and Technology (1500–2025), који је плод заједничке сарадње др Јолера и аустралијске истраживачице Кејт Крафорд, критички испитује однос између технологије и моћи током последњих пет векова. Calculating Empires је 24 метара дуг и три метра висок визуелни манифест који нам нуди нов начин сагледавања данашњих система контроле, урањајући нас у прошлост, од колонијализма и настанка европских империја до савремених технолошких компанија и модела вештачке интелигенције.
Поред тога што је уметник, др Јолер је истраживач и редовни професор на Одсеку за нове ликовне медије Академије уметности у Новом Саду, и гостујући предавач на многим светским универзитетима. У његовом уметничком раду укрштају се визуелна уметност, наука, технологија и људска права, а посебно је препознатљив по карактеристичном визуелном представљању података којe он назива „мапама“. Своје радове др Јолер је излагао на више од стотину међународних изложби, а неке од њих, као што је Anatomy of AI system, налазе се у колекцијама најпознатијих светских музеја, попут Музеја модерне уметности (МоМА) у Њујорку, Музеја Викторије и Алберта у Лондону и Арс Електроника центра у Линцу. Оснивач је SHARE фондације, која се бави заштитом људских права и слобода у онлајн простору, а био је и дугогодишњи креативни директор музичког фестивала EXIT у Новом Саду.
Поводом освајања престижне награде на овогодишњем Фестивалу Арс Електроника, са др Јолером смо разговарали о његовом раду Calculating Empires, о специфичном језику мапа који користи у својим радовима, неутралности технологије и томе шта обичан појединац може да уради спрам данашњих моћних система контроле.
Како сте дошли на идеју да се, заједно са Кејт Крафорд, упустите у тако амбициозан подухват као што је Calculating Empires? Колико вам је времена било потребно за реализацију?
Кејт и ја смо 2018. објавили једну другу мапу која се зове Anatomy of AI system. Тада смо и почели да сарађујемо. Ова мапа бавила се материјалним аспектом вештачке интелигенције и читавом инфраструктуром која је неопходна за развој Амазоновог виртуелног AI асистента Алекса. Другим речима, представљала је продужену анатомију једног уређаја – од неопходних материјала, руда, па све до Периодног система елемената и експлоатације људског рада. Пошто смо одлучили да наставимо сарадњу, желели смо да одемо корак даље. Хтели смо да настанак и развој савремених система вештачке интелигенције сагледамо из једне дубље историјске перспективе. Одлучили смо да ћемо почети истраживање од 1500. године како бисмо испитали какве су све технологије и идеје претходиле данашњим механизмима контроле, какав је, рецимо, AI модел за препознавање лица. Онда смо почели са радом, што је било пре отприлике четири или пет година. Четири године смо цртали ову мапу. Онда је она временом постала део пројекта Knowing Machines, који се такође дубински бавио истраживањем тренинга дета-сетова за вештачку интелигенцију. На крају смо све то уклопили у једну причу.
Цео рад Calculating Empires: A Genealogy of Power and Technology (1500–2025) Владана Јолера и Кејт Крафорд можете видети на следећем ЛИНКУ.
Мапа Calculating empires протеже се на импресивних 24 метра дужине и три метра висине. Како сте је структурирали?
Она је подељена на четири сегмента, четири C: Communication, Classification, Computation и Control. Зашто? Зато што ако раставиш процес стварања неког високотехнолошког производа, који је базиран на вештачкој интелигенцији, доћи ћеш до три важна момента. Први је комуникација, а односи се на различите врсте медија који служе као носиоци података на којима се обучава неки AI модел. Реч је о материјалу, о свему ономе што спада у археологију медија: фотографије, звучни и видео записи, књиге итд. Други корак је класификација. Једном када су прикупљени подаци, следи процес њихове класификације. На крају долази трећи корак, процес компјутације, у ком се уз помоћ неког система за рачунање класификовани подаци компресују у тај AI модел. Након ова три момента следи додатни, четврти, а то је контрола, која нам говори о томе на који начин су ти модели или високотехнолошки производи интегрисани у различите системе контроле. То је била нека почетна идеја. Онда је то временом, током те четири године, прерасло у једну огромну мапу.
То је један простор у ком су информације кондензоване, који одједном постаје свет за себе. У тај простор можеш да уђеш и једноставно одабереш пут којим ћеш да се крећеш и промишљаш историју. Оно што је нама било битно је да та мапа захтева време. Она је толико обимна и толико је велика да не можеш да је савладаш за неколико минута. И то је оно што ову мапу данас, када сви живе много брзо и никад немају времена, чини врло субверзивном. Субверзивна је чак и у том смислу да смо ми у њено стварање уложили толику количину времена. А посебно ми је драго што она није производ вештачке интелигенције, није визуализација података, него је практично од почетка до краја ручно цртана. Кад кажем ручно, мислим на компјутеру, али није нешто што је настало аутоматским процесуирањем података, него смо сваку тачку, једну по једну, уцртавали, гледали и разматрали шта још треба да се нађе на нашој мапи. Тако да ми је сам тај процес стварања веома важан.
Ваше мапе су једна врста наратива који није линеаран, већ је некако дисперзиван, грана се у више смерова и на посматрачу је да одабере пут којим жели да се креће. Као у детективској причи која се никад не завршава, један траг води до другог, разоткривају се скривене везе између савремене технологије и мрачних идеја из прошлости, али никад до краја. Доста тога остаје отворено.
Јесте. Зато ја обожавам мапе као облик изражавања, баш зато што нису линеарне. Последњих десетак година се бавим искључиво мапама као формом. Мислим, наравно, на оно што ја називам мапом, односно на оно што цртам. Она представља, у ствари, један нелинеаран простор који омогућава посматрачу да направи неку своју причу. Пошто вероватно неће читати редом сваки натпис, него ће тражити неки свој пут. Приметио сам да последњих година све већи број људи има проблем са читањем дужих наративних форми. Неки људи су ми се чак захваљивали на томе што су им моје мапе помогле да разумеју неке ствари, јер имају, рецимо, проблем са дислексијом, читањем, или им је напросто визуелна комуникација много пријемчивија.
Веза између технологије и контроле није ништа ново. Она постоји од почетка, од првог дана, што се може поткрепити мноштвом примера. Гутенбергова преса је, рецимо, уједно довела до цензуре, до стварања ауторских права, до гомиле других ствари, јер појава сваке технологија са собом рађа један нови простор. И тај простор постаје нека врста ратишта за различите интересе.
Есеј је, као уосталом и филм и подкаст, у већини случајева линеаран, има почетак и крај. Зато мислим да је мапа много отворенија форма у односу на њега. Мада, сваки пут када објавимо неку мапу, ми заједно с њом објавимо и пратећи есеј, који треба да помогне људима да се лакше оријентишу док је посматрају. Али, опет, и та врста есеја, према мом мишљењу, на крају смањује могућност слободе читања. Много ми је драже кад људи једноставно, без икаквих инструкција и предзнања, стану испред мог рада и интерпретирају га на свој начин. Скоро сам био у Њујорку, па смо поново ишли да видимо ту нашу поставку у Музеју модерне уметности (МоМА). Било ми је велико уживање да стојим по страни и слушам шта људи говоре, како они виде тај рад. Понекад виде ствари које мени никад не би пале на памет, а опет су део приче која се крије унутар мапе. Тако да је то стварно врло узбудљива форма.
Славој Жижек каже да се сада осећамо слободнима јер нам недостаје прави језик да изразимо своју неслободу. Да ли су мапе које користите у вашем раду једна врста језика која покушава да изрази ту неслободу?
Апсолутно. Све картографије које сам до сад радио биле су начин да покушам да разумем савремене облике контроле. Не само контроле, него да разумем фабрику уопште, шта она јесте, какви су односи рада и експлоатације успостављени између компанија и обичних људи, као и бројних других актера у причи. Ове мапе су за мене биле пут у неку врсту детективског истраживања технологије, на основу кога стварам визуелни приказ. Овај приказ користим да бих, на првом месту, сам разумео које се све врсте контроле крију у њему. На крају, то можда помогне и другим људима да дођу до сличних или чак нових увида. Мислим да је један од наших највећих проблема у савременом добу то што не можемо да дефинишемо те нове врсте контроле, нове врсте експлоатације, нове радне односе који се успостављају. И моје мапе управо о томе говоре, са више или мање успеха.
Кроз Calculating Empires можемо да видимо како су ти системи контроле заправо одувек постојали. Веза између технологије и контроле није ништа ново. Она постоји од почетка, од првог дана, што се може поткрепити мноштвом примера. Гутенбергова преса је, рецимо, уједно довела до цензуре, до стварања ауторских права, до гомиле других ствари, јер појава сваке технологија са собом рађа један нови простор. И тај простор постаје нека врста ратишта за различите интересе. Да ли је то држава која жели да нову технологију искористи да нешто контролише или капитал који жели да само расте, расте, расте. Али свака технологија доноси са собом неку форму моћи, која је кроз историју често коришћена у сврху контроле. И ту сад има на хиљаде примера. Рецимо, прво масовно фотографисање људи дешавало се по затворима. Прва масовна употреба тестова за интелигенцију забележена је у касарнама и на границама.
Или, узмимо за пример историју класификације. Пре прављења ове мапе нисам толико размишљао о системима класификације. Прва асоцијација на то нам је наука, јер она стално класификује ствари. Шведски биолог Карл Лине класификује биљке, али онда у једном моменту пређе и на људе и каже: постоји пет врста људи. Једна од првих расних теорија произашла је из његовог истраживања, које се јесте, пре свега, бавило биљкама, али чим се прешло на класификацију људи то је одмах постало једна врста система контроле. И кад кренеш даље да размотаваш ову причу дођеш до тога да су неке ране расне теорије, које су класификовале људска бића, често служиле као начин оправдања за различите форме експлоатације. То се, наравно, дешавало паралелно са колонијалном експанзијом, па су настојали да нађу начин да класификују људе да би оправдали зашто сад одједном ти други људи имају много мања права од ових првих. И уколико уђеш дубље у историју класификације, ти схваташ да се у њој константно догађају грешке, али да она наставља да се користи у служби система моћи или контроле.
На класификацију се ослања и вештачка интелигенција.
Ако погледамо шта је AI, она је аутоматизација класификације. Један велики део вештачке интелигенције бави се, у ствари, само класификацијама. Ово је лице, ово је дрво, ово је кућа, а оно је улица итд. А да бисмо могли да вршимо класификацију, мора да постоји нека матрица класификације која је, сама по себи, форма контроле. Кад се дубље задре у ову тему може да се види и колико могу да буду проблематични AI модели за препознавање емоција. Ја не могу да знам да ли је Дарвин са злом намером написао књигу у којој је тврдио да су људске емоције универзалне и да можеш да их препознаш по изразу лица. Међутим, иако се ова теорија одавно показала као потпуно погрешна, данас постоје системи вештачке интелигенције за детекцију емоција који су засновани управо на таквим идејама. И кад мало дубље заронимо у историју ових система и пробамо да ишчепркамо одакле идеје на којима се они базирају долазе, што смо Кејт и ја радили у Calculating Empires, испостави се да често долазе са потпуно погрешних, па чак и застрашујућих места. То може бити еугеника, френологија или нека друга теорија која је коришћена за оправдање колонијалне експлоатације. Један од веома важних закључака до којих сам дошао после овог врло дубоког „копања“ по историји односа технологије и моћи јесте да када системи за класификацију крену да се примењују на људима, то веома често заврши у неетичким формама управљања или контроле. Рецимо, неки од најнепреднијих модела вештачке интелигенције за препознавање емоција или лица и дан-данас се користе на границама или у склопу полицијских и војних система.
Увек се понавља исти образац: прво технологија ствара територију, територија постаје ресурс, за ресурс се такмиче играчи, затим победник успоставља монопол над територијом, што на крају завршава у успостављању неке врсте хипермоћи и контроле. То је оно што се десило и са интернетом.
Технологија, међутим, има једну врсту двоструког карактера. Није спорно да се од својих почетака користила у сврхе контроле, али би требало рећи да је омогућила и различите врсте ослобођења човека. У том смислу, често се може чути како је технологија неутрална. Како ви гледате на то?
Ако деконструишемо било коју технологију, рецимо, друштвену мрежу Инстаграм, неко је морао да одреди све те форме које се налазе унутар његовог интерфејса, чиме је дефинисао правила игре и оно што ће она произвести. Када се појавио Инстаграм са својим квадратним интерфејсом, радови мојих студената одједном су попримили управо такву форму. Раније је обично доминирала форма тзв. златног пресека, односно папира или слике и све је било подређено томе. Затим се појављује квадратни интефејс и он почиње да производи другачије последице. Технологија, у том смислу, никад није неутрална, због тога што она својом материјалношћу, својим интерфејсом одређује шта с њом можеш да направиш. Другим речима, она својим обликом и постојањем дефинише шта је могуће и шта није могуће. Стога различите технологије омогућавају различите ствари. Међутим, у нашем раду пробали смо да покажемо да технологија не само да није сама по себи неутрална, већ се увек налази у једном ширем систему идеологије, вредности и правила игре, какав је данас, рецимо, неолиберални капитализам. Кад имате такав шири оквир, технологија ће увек на крају завршити у истом ћорсокаку.
Узмимо као пример интернет. Интернет је, по мом мишљењу, и даље фантастичан протокол. Егалитаран протокол, неки би рекли. Свака тачка, сваки нод је у исто време и пошиљалац и прималац. Делује да је по свом карактеру неутралан. Али пошто се налази у таквом оквиру шире игре, која је у овом случају неолиберални капитализам, неминовно је било да се претвори у ово што је сада. Увек се понавља исти образац: прво технологија ствара територију, територија постаје ресурс, за ресурс се такмиче играчи, затим победник успоставља монопол над територијом, што на крају завршава у успостављању неке врсте хипермоћи и контроле. То је оно што се десило и са интернетом. Почело је као хоризонтална структура, у којој је свако могао да направи веб-сајт, али је на крају завршило у рукама пет огромних компанија. Али, као што сам рекао, то није продукт саме технологије, иако она сама по себи има своја правила игре, него је проблем ширег система правила у којем се она налази. Да је тај шири систем другачији, можда би интернет постао највећа отворена библиотека. То се, нажалост, није десило, већ је постао поље „економије репутације“, где је свако нека врста бренда и где се сви све време такмиче.
Ви се системима контроле бавите како кроз вашу уметност тако и кроз SHARE фондацију. Како појединац данас може да се супротстави тим великим и моћним система контроле?
Ја бих се позвао на констатацију Френсиса Бејкона да је знање моћ. Ту видим неку врсту могућности. На шта тачно мислим кад кажем знање? Веома је тешко да разумемо нове форме експлоатације ако не можемо да сагледамо шта се ту дешава. Зато је транспарентност система контроле од кључног значаја. Другим речима, ако би ти системи били транспарентни, ми бисмо можда могли да кажемо стани, употреба оваквог алгоритма није добра јер дискриминише неке људе. Али проблем је у томе што тренутно немамо никакав увид у то. А да бисмо имали увид, потребна је транспарентност, или развој одређених критичких алата који би нам омогућили да уочимо злоупотребе. Онда бисмо могли да критички преиспитујемо ове системе и залажемо се да се неке ствари не дозволе. То би требало да буде први корак у супротстављању њиховој доминацији.
Ја сам, рецимо, доста практиковао тзв. информацијску дијету, где сам себи ускраћивао да проводим много времена на телефону. Али то је, према мом мишљењу, једна врста стратегије са фокусом на крајњег потрошача, налик онима које се примењују у екологији: „немој да трошиш превише воде“, или „немој да једеш говеђе месо“. А иза тога имаш читаву машинерију која производи невероватну количину угљен-диоксида. Мислим да је далеко боље решење да пробамо да разумемо како раде ти велики системи и какве нове односе експлоатације успостављају, него да се усмеримо на понашање обичног појединца, као неког ко се налази на самом крају тог ланца. Наравно, треба сви да промислимо о томе како користимо технологију и природу, али тај део је доста лакши за решавање. Суштински проблем крије се у тешко видљивим или доступним механизмима моћи и контроле.
Интервју је оригинално објављен у 38. броју часописа Елементи.