U četvrtak, 27. marta, u Naučnom klubu Centra za promociju nauke održan je treći ovogodišnji panel u sklopu serijala „AI pod zvezdama“, pod nazivom „AI i budućnost rada: Algoritam koji me (ni)je voleo“. Zajedno sa učesnicima i učesnicama panela – dr Darkom Božičićem sa Pravnog fakulteta Univerziteta u Novom Sadu, Anom Lojanicom iz kompanije Zevs LLC, i Brankom Anđelković iz Centra za istraživanje javnih politika, govorili smo o glavnim rizicima automatizacije i digitalizacije, algoritamskom odlučivanju u praksi, zakonskoj regulativi i mnogim drugim temama.
Panel – koji, kao i ostale u seriji „AI pod zvezdama“ organizuju Centar za istraživanje javnih politika u saradnji sa Srpskim društvom veštačke inteligencije i Centrom za promociju nauke – moderirala je Tanja Jakobi iz Centra za istraživanje javnih politika.
Dr Darko Božičić je objasnio da se nastanak algoritamskog menadžmenta vezuje za platformsku, odnosno gig ekonomiju, jer su upravo digitalne platforme te koje svoj poslovni model u pretežnoj meri zasnivaju upravo na njemu.
„U najširem smislu, algoritamski menadžment podrazumeva sistem automatizovanog procesa donošenja odluka u vezi sa upravljanjem različitim aspektima vršenja rada. Suštinski, reč je o tome da ovaj sistem, baziran na veštačkoj inteligenciji i mašinskom učenju, sprovodi funkcije, tj. donosi odluke koje, u tradicionalnom shvatanju radnog odnosa, treba da donosi poslodavac. Funkcioniše tako što na osnovu obrade velike količine različitih podataka sistem najpre „uči“ kakve odluke treba da donese u pogledu obavljanja konkretnog posla od strane konkretnog lica, što kasnije i čini u datom, konkretnom slučaju.“
Tako će, na primer, algoritamski menadžment doneti odluke koji radnik će obavljati određeni posao, daće mu detaljna uputstva, vršiće nadzor nad obavljanjem tog posla, a na kraju će oceniti efikasnost radnog zadatka.
„Na ovaj način, algoritamski menadžment doprinosi povećanju efikasnosti procesa donošenja odluka, vodeći računa prevashodno o profitabilnosti takvih odluka za samu platformu“, dodaje dr Božičić.
Međutim, dr Božičić upozorava da ovaj način rada stavlja radnike u vrlo nepovoljan položaj, jer oni nemaju uvid u podatke koje algoritamski menadžment obrađuje i na osnovu kojih kriterijuma donosi odluke.
„Zapravo netransparentnost u načinu funkcionisanja algoritamskog menadžmenta jedna je od njegovih glavnih, a konsekventno i najkritikovanijih odlika. Ovo dalje za posledicu ima to da platformski radnici nisu u poziciji da na efikasan način osporavaju odluke algoritamskog menadžmenta, a pravo na delotvorni pravni lek jedno je od fundamentalnih ljudskih prava.
Takođe, veoma širok obim nadzora nad radom koji algoritamski menadžment omogućava predstavlja i potencijalnu opasnost po zdravlje i privatnost radnika“, dodaje dr Božičić.
Kada je reč o zakonskoj regulativi, ona je i dalje u povoju jer je reč o svojevrsnoj novini u privrednim odnosima, kaže dr Božičić. Razvoj ove regulative je najprisutniji u zemljama Evropske unije, gde već postoji nekoliko propisa, uključujući Uredbu o zaštiti podataka o ličnosti (GDPR) i Direktivu o poboljšanju uslova rada posredstvom digitalnih platformi.
Branka Anđelković iz Centra za istraživanje javnih politika je saglasna da algoritamski menadžment može imati brojne negativne posledice po radnike, i da kod njih može izazvati „osećaj nesigurnosti i izolovanosti“. Kao jedan od primera korišćenja algoritamskog menadžmenta Anđelković navodi industriju dostave hrane, gde se dinamičko određivanje cena kao deo šireg sistema algoritamskog menadžmenta pokazalo kao ključna promena.
„Ovaj sistem automatski menja naknade za dostavu (ili cene usluga) u realnom vremenu, u zavisnosti od broja dostupnih radnika (ponuda), broja porudžbina (potražnja), doba dana, lokacije, vremenskih uslova, itd. Cilj je optimizacija troškova i zarada u skladu s tržišnim uslovima“, kaže Anđelković i dodaje da posledice primene ovakvih modela mogu biti intenziviranje rada i pritisak na performanse radnika:
„Sistem se stalno menja, što dovodi do stresnog radnog okruženja, umora i smanjenja kvaliteta rada. Kod radnika se često javlja osećaj stalnog ‘takmičenja sa algoritmom’ a rad se svodi na izvršavanje precizno definisanih zadataka bez prostora za inicijativu. Radnici uglavnom rade izolovano, što dodatno otežava izgradnju solidarnosti, sindikalno organizovanje i zaštitu njihovih prava.“
Ana Lojanica iz kompanije Zevs LLC je govorila o etici algoritamskog odlučivanja u praksi, odnosno o pitanju odgovornosti, pristrasnosti i transparentnosti iz ugla programera.
Lojanica kaže da korišćenje algoritamskog odlučivanja smanjuje mogućnost prevelike subjektivnosti i uticaja emocija, ali je ključno da se navedeni algoritmi projektuju i koriste pod određenim uslovima.
„Prvi je transparentnost kriterijuma – potrebno je jasno da se definiše i komunicira šta se meri i zašto (npr. broj završenih zadataka, rokovi, ocene klijenata). Na taj način svako zna kakav je mehanizam evaluacije, kako sistem donosi odluke i kako eventualno može da se podnese prigovor ili proveri tačnost podataka.
Poštovanje privatnosti je drugi, a podrazumeva praćenje samo onih podataka koji su direktno povezani sa radom i performansom, a izbegavanje bilo kakvih informacija koje zadiru u lične ili osetljive aspekte zaposlenog (npr. zdravstvene podatke, lične poruke)“, kaže Lojanica.
Ona je govorila i o svom iskustvu sa aplikacijama algoritamskog odlučivanja – najpre kao zaposlena u firmi, a potom i kao menadžerka.
„Na svom prvom poslu sam imala priliku da, kao zaposlena, koristim aplikaciju zasnovanu upravo na algoritamskom menadžmentu. Ona je služila kao digitalni nadzor i kontinuirano je pratila moj rad. Takav način nadziranja mog rada mi je donosio nelagodu. Imala sam osećaj da je moja privatnost narušena, a pojavljivala su se i praktična pitanja i nedoumice kao što su – da li treba da zaustavljam aplikaciju kada pravim pauzu ili se na trenutak udaljavam od računara? Takođe, postojala je i kontradikcija – što sam bila efikasnija i iskusnija (pa sam brže završavala zadatke), to sam imala manje naplaćenih sati i, samim tim, manju zaradu. Sa pravom sam se pitala da li je to zaista dobar model upravljanja poslom i ljudima.“
Lojanica kaže da danas, kao menadžerka, ne koristi alate koji se svode na algoritamsko praćenje pojedinačnog rada svakog zaposlenog radnika u kompaniji. Podatke koje dobijaju koriste isključivo za poboljšanje i optimizaciju timskog rada, dok ljudska procena ostaje ključna kod donošenja bilo kakvih odluka o zaposlenima.
„Na taj način želim da izbegnem osećaj stalnog nadzora i da zadržim poverenje i autonomiju u timu, a da istovremeno iskoristim korisne informacije o radu i napretku projekata“, zaključila je Lojanica.