У четвртак, 27. марта, у Научном клубу Центра за промоцију науке одржан је трећи овогодишњи панел у склопу серијала „АИ под звездама“, под називом „АИ и будућност рада: Алгоритам који ме (ни)је волео“. Заједно са учесницима и учесницама панела – др Дарком Божичићем са Правног факултета Универзитета у Новом Саду, Аном Лојаницом из компаније Zevs LLC, и Бранком Анђелковић из Центра за истраживање јавних политика, говорили смо о главним ризицима аутоматизације и дигитализације, алгоритамском одлучивању у пракси, законској регулативи и многим другим темама.
Панел – који, као и остале у серији „АИ под звездама“ организују Центар за истраживање јавних политика у сарадњи са Српским друштвом вештачке интелигенције и Центром за промоцију науке – модерирала је Тања Јакоби из Центра за истраживање јавних политика.
Др Дарко Божичић је објаснио да се настанак алгоритамског менаџмента везује за платформску, односно гиг економију, јер су управо дигиталне платформе те које свој пословни модел у претежној мери заснивају управо на њему.
„У најширем смислу, алгоритамски менаџмент подразумева систем аутоматизованог процеса доношења одлука у вези са управљањем различитим аспектима вршења рада. Суштински, реч је о томе да овај систем, базиран на вештачкој интелигенцији и машинском учењу, спроводи функције, тј. доноси одлуке које, у традиционалном схватању радног односа, треба да доноси послодавац. Функционише тако што на основу обраде велике количине различитих података систем најпре „учи“ какве одлуке треба да донесе у погледу обављања конкретног посла од стране конкретног лица, што касније и чини у датом, конкретном случају.“
Тако ће, на пример, алгоритамски менаџмент донети одлуке који радник ће обављати одређени посао, даће му детаљна упутства, вршиће надзор над обављањем тог посла, а на крају ће оценити ефикасност радног задатка.
„На овај начин, алгоритамски менаџмент доприноси повећању ефикасности процеса доношења одлука, водећи рачуна превасходно о профитабилности таквих одлука за саму платформу“, додаје др Божичић.
Међутим, др Божичић упозорава да овај начин рада ставља раднике у врло неповољан положај, јер они немају увид у податке које алгоритамски менаџмент обрађује и на основу којих критеријума доноси одлуке.
„Заправо нетранспарентност у начину функционисања алгоритамског менаџмента једна је од његових главних, а консеквентно и најкритикованијих одлика. Ово даље за последицу има то да платформски радници нису у позицији да на ефикасан начин оспоравају одлуке алгоритамског менаџмента, а право на делотворни правни лек једно је од фундаменталних људских права.
Такође, веома широк обим надзора над радом који алгоритамски менаџмент омогућава представља и потенцијалну опасност по здравље и приватност радника“, додаје др Божичић.
Када је реч о законској регулативи, она је и даље у повоју јер је реч о својеврсној новини у привредним односима, каже др Божичић. Развој ове регулативе је најприсутнији у земљама Европске уније, где већ постоји неколико прописа, укључујући Уредбу о заштити података о личности (ГДПР) и Директиву о побољшању услова рада посредством дигиталних платформи.
Бранка Анђелковић из Центра за истраживање јавних политика је сагласна да алгоритамски менаџмент може имати бројне негативне последице по раднике, и да код њих може изазвати „осећај несигурности и изолованости“. Као један од примера коришћења алгоритамског менаџмента Анђелковић наводи индустрију доставе хране, где се динамичко одређивање цена као део ширег система алгоритамског менаџмента показало као кључна промена.
„Овај систем аутоматски мења накнаде за доставу (или цене услуга) у реалном времену, у зависности од броја доступних радника (понуда), броја поруџбина (потражња), доба дана, локације, временских услова, итд. Циљ је оптимизација трошкова и зарада у складу с тржишним условима“, каже Анђелковић и додаје да последице примене оваквих модела могу бити интензивирање рада и притисак на перформансе радника:
„Систем се стално мења, што доводи до стресног радног окружења, умора и смањења квалитета рада. Код радника се често јавља осећај сталног ‘такмичења са алгоритмом’ а рад се своди на извршавање прецизно дефинисаних задатака без простора за иницијативу. Радници углавном раде изоловано, што додатно отежава изградњу солидарности, синдикално организовање и заштиту њихових права.“
Ана Лојаница из компаније Zevs LLC је говорила о етици алгоритамског одлучивања у пракси, односно о питању одговорности, пристрасности и транспарентности из угла програмера.
Лојаница каже да коришћење алгоритамског одлучивања смањује могућност превелике субјективности и утицаја емоција, али је кључно да се наведени алгоритми пројектују и користе под одређеним условима.
„Први је транспарентност критеријума – потребно је јасно да се дефинише и комуницира шта се мери и зашто (нпр. број завршених задатака, рокови, оцене клијената). На тај начин свако зна какав је механизам евалуације, како систем доноси одлуке и како евентуално може да се поднесе приговор или провери тачност података.
Поштовање приватности је други, а подразумева праћење само оних података који су директно повезани са радом и перформансом, а избегавање било каквих информација које задиру у личне или осетљиве аспекте запосленог (нпр. здравствене податке, личне поруке)“, каже Лојаница.
Она је говорила и о свом искуству са апликацијама алгоритамског одлучивања – најпре као запослена у фирми, а потом и као менаџерка.
„На свом првом послу сам имала прилику да, као запослена, користим апликацију засновану управо на алгоритамском менаџменту. Она је служила као дигитални надзор и континуирано је пратила мој рад. Такав начин надзирања мог рада ми је доносио нелагоду. Имала сам осећај да је моја приватност нарушена, а појављивала су се и практична питања и недоумице као што су – да ли треба да заустављам апликацију када правим паузу или се на тренутак удаљавам од рачунара? Такође, постојала је и контрадикција – што сам била ефикаснија и искуснија (па сам брже завршавала задатке), то сам имала мање наплаћених сати и, самим тим, мању зараду. Са правом сам се питала да ли је то заиста добар модел управљања послом и људима.“
Лојаница каже да данас, као менаџерка, не користи алате који се своде на алгоритамско праћење појединачног рада сваког запосленог радника у компанији. Податке које добијају користе искључиво за побољшање и оптимизацију тимског рада, док људска процена остаје кључна код доношења било каквих одлука о запосленима.
„На тај начин желим да избегнем осећај сталног надзора и да задржим поверење и аутономију у тиму, а да истовремено искористим корисне информације о раду и напретку пројеката“, закључила је Лојаница.