tekst: Vanja Subotić
Nakon neslućenog napretka i profita u oblasti konverzacione veštačke inteligencije, novu tehnološku poslasticu predstavljaju veštački agensi (prema engl. AI agents, ili Artigicial Intelligence agents). Već pri samom izboru terminologije, kao i pri prevođenju, naizgled smo se obavezali da veštačku neuronsku mrežu unutar samog modela veštačke inteligencije gledamo kao na delatnika, činioca dejstva, nosioca promene, aktivnog i ravnopravnog učesnika neke radnje, ili inicijatora niza događaja. Kada u nekim oblastima filozofije, kao što je normativna etika, koja se, između ostalog, bavi i time kako treba da postupamo ako hoćemo da budemo moralno ispravni, ljude nazivamo agensima, pod tim podrazumevamo da neretko imaju slobodu da biraju kako će da postupe, i u odnosu na to potom procenjujemo njihovu moralnu odgovornost za postupke. Tokom većeg dela svoje duge istorije, etičari su samo ljude smatrali agensima, dok su ostali, kognitivno drugačiji entiteti, pasivni recipijenti koji zavise od agenasa. U te entitete su se najpre svrstale životinje, a potom, i mašine, to jest modeli veštačke inteligencije.
U izuzetno kratkom vremenskom roku, barem iz perspektive filozofije, sa stažom dužim od dva milenijuma, percepcija mašine se promenila. Sada su to neke ozbiljne i moćne mašine, veštački agensi, ma Terminatori, koji odlučuju sami, rade brže od nas, a, bogami, i bolje, naročito kad smo neispavani, pod migrenom ili ko zna kojim sezonskim gripom po redu. Potpomognuti holivudskim filmovima iz žanra naučne fantastike, publicitetom koji prati svaki proizvod iz Silicijumske doline u Sjedinjenim Američkim Državama, kao i ljudskom potrebom da maltene svemu pripisujemo naše osobine, pogotovo ako može s nama nekako da komunicira, veštački agensi su već članovi radnih kolektiva, deo našeg svakodnevnog života, kao i predmet naših strahova i ushićenja. S jedne strane, ujarmili smo ih da nam odgovaraju na imejlove, sređuju tabele u Ekselu, prave liste za nabavku. S druge strane, raspravljamo o tome da li oni imaju neki vid ličnosti, ili osećaj ličnog identiteta, i da li i kako možemo da im pripišemo krivicu kad ne urade kako neka vrsta asistenta, koji donosi odluke bez kompleksnih instrukcija, odnosno umesto vas, dok obavlja zadatak koji ste mu zadali. Takođe, ovaj vid veštačke inteligencije može samostalno da koristi alate da bi obavio zadatak, a to su pristupanje internetu, kucanje koda, i prebacivanje dokumenata u određene formate. Ambicija koja vodi velike kompanije, bilo na američkom, bilo na azijskom tlu, jeste da ovakav vid veštačkih asistenata može da parira ljudskim asistentima. To znači da bi oni trebalo da budu i multimodalni, da vizuelno, auditivno, i tekstualno obrađuju podatke i daju izlazne rezultate u vidu slika, video i audio snimaka, i tekstova, ali i uronjeni u nekakvu trodimenzionalnu sredinu iz koje crpe podatke, koja može biti simulirana, to jest virtuelna, ili realna. Takav vid veštačkih agenasa bi se nazivao utelovljeni veštački agensi, dok su trenutne verzije na tržištu softverski veštački agensi, jer je za njih potrebno da imamo aplikaciju bilo na kompjuteru bilo na mobilnom telefonu. Astra je za sad najbliža utelovljenosti od svih softverskih agenasa, jer može da na osnovu povezivanja sa kamerom vašeg mobilnog „progleda“. Naziv za njih je izabran vrlo tendeciozno, upravo da se stavi akcenat na samostalno odlučivanje i učenje bez nadgledanja ljudi. Alternativni tendeciozni naslov je mogao da bude i autonomni veštački delatnici. Kada govorimo o ljudima, prirodno je nazivati ih delatnicima, jer njihovi postupci ne samo što su deo uzročno-posledičnog lanca događaja u svetu, već su odlikovani i razlozima zbog kojih su počinjeni. Razlozi, pak, podrazumevaju da ljudi imaju intencionalnost, to jest da su njihova verovanja, želje, nadanja, strahovi, i slična mentalna stanja uvek usmerena ka nečemu, nekom objektu ili, još bolje, imaju sadržaj. Imam slobodnu volju da kupim šest kinder jaja umesto jednog, i razlog za moj postupak je želja da se ponovo osetim kao dete. Veštački agensi nemaju, zasad, i prema ovoj gruboj definiciji, intencionalnost, i nazivati ih delatnicima ne bi bilo baš filozofski i jezički precizno. S druge strane, termin agens, baš usled neodomaćenosti, pruža priliku za distancu od megalomanske vizije veštačke inteligencije kao autonomnog delatnika. Čak i to što zvuči pomalo smešno je zdravo za obuzdavanje preteranih reakcija na veštačku inteligenciju. Naposletku, ne treba sebe i stvari u svetu shvatati uvek previše ozbiljno, zar ne?
Šta sve veštački agensi mogu da rade umesto mene? Nadam se dosta toga, mrzi me da razmišljam. Mada opet, ne bi trebalo ni da mogu previše toga da urade, jer onda neću biti potreban ja poslodavcu, niti moja profesija.
Veštački agensi za sada mogu da rade repetitivne zadatke čije je obavljanje inkrementalno, to jest odvija se korak po korak. Igrom slučaja, to su baš zadaci koje nas često mrzi da obavljamo, jer smo mentalno lenji, fizički lenji, umorni, nije nam do života, a i igra Srbija na Evropskom prvenstvu u košarci. Od pronalaženja jeftinih avionskih karata i smeštaja, planiranja puta u odnosu na vremensku prognozu, pravljenja režima dnevnog unosa kalorija i kardio treninga, preko vođenja korespondencije i beležaka sa onlajn sastanaka do organizacije venčanja i pravljenja rasporeda sedenja (čak će i zapamtiti da tašta nikako ne bi trebalo da sedi u blizini svekrve). Pa ipak, recentna istraživanja u kognitivnoj i neuronauci sugerisala su da preterano oslanjanje na pomoć klasičnih čet-botova dovodi do pada naših kognitivnih sposobnosti i pažnje koju poklanjamo obavljanju zadataka. To ne znači nužno da smo gluplji dok koristimo veštačku inteligenciju, ali znači da „isključujemo“ mozak jer smo naprosto delegirali zadatak. Pretpostavka je da će takav trend biti još primetniji u slučaju korišćenja veštačkih agenasa.
Veštački agensi nemaju, zasad, i prema ovoj gruboj definiciji, intencionalnost, i nazivati ih delatnicima ne bi bilo baš filozofski i jezički precizno. S druge strane, termin agens, baš usled neodomaćenosti, pruža priliku za distancu od megalomanske vizije veštačke inteligencije kao autonomnog delatnika.
Njihova efikasnost i profitabilnost se uzimaju kao rukavica za duel bačena u lice profesijama u uslužnoj i administrativnoj delatnosti. Ovo podrazumeva, recimo, korisničku podršku, šalterske radnike, hotelske recepcionare, sekretare na projektima i u institucijama, turističke agente (ne agense! Ali, verovatno veštačkog agensa koji obavlja posao turističkog agenta treba zvati turistički agens.). Mnoge kompanije i institucije su već uložile novac u implementiranje veštačkih agenasa u manastiru Tumane možete da razgovarate sa Tumankom u vezi sa detaljima vaše posete manastiru, a u nekim privatnim klinikama zakazivanje vrši Zdravko. Za sada, ipak, i jednog i drugog kontrolišu ljudi, pregledaju njihove interakcije sa korisnicima i popravljaju model u odnosu na realne komunikacione situacije. Veća je verovatnoća, dakle, da će poslodavac kupiti takav softver, i da ćete morati da učite kako da radite pomoću njega, a ne da budete njime zamenjeni. Međutim, možda bi nam svima život bio jednostavniji da imamo po jednog batlera u vidu utelovljenog veštačkog agensa koji će da sprema i sređuje kuću, zaliva cveće, pegla košulje, i čisti za kućnim ljubimcima? Još bolje da sam odlučuje je li danas dan za pranje prozora ili veša, dok se na poslu mučite sa nekim tamo najnovijim Claude-om, koji nikako da shvati kad mu se vika da se vika ne vika, jer nije optimizovan za srpski jezik usled nedostatka većih i raznovrsnijih skupova podataka, a košta na godišnjem nivou ko Svetog Petra kajgana.
Da li će me veštački agensi poznavati bolje nego što ja poznajem sebe? Bizarno je koliko mi sad već ChatGPT predlaže dobru muziku i dobre filmove, i kako tačno zna šta mi se jede za večeru, baš pogodi moj ukus. Od partnera sam to čekala godinama, pa ništa i dalje.
Veštački agensi, kao modeli preporučivanja, imaće po svoj prilici još više podataka o vama nego što je to slučaj sa nekim ranijim verzijama ChatGPT-ja, naprosto jer ćete mu ih sami davati kako bi što bolje obavio zadatak. Velike kompanije će vam ih prodavati kao „personalizovane“ asistente, kao da je u pitanju torbica koju možete da dobijete sa ušivenim inicijalima i roze maramom umesto žutom. Kao i postojeći čet-botovi, i ovaj model veštačke inteligencije treba da kaže ono što vi želite da čujete svaki put kad se oduševite njegovim odgovorom, unutar modela se šalje signal za nagradicu, a model uči nešto novo o tome kako da vas zadovolji i šta da vam preporuči da uradite ili kupite.
Ma koliko to ne bismo želeli, ipak smo dosta predvidljivi, kao što smo mogli da se uverimo sa platformama poput Jutjuba ili Netfliksa. Na osnovu dva ili tri odslušana albuma ili pogledana filma, algoritam nas uvlači u zečju rupu dovoljno sličnog sadržaja za koji smo ubeđeni da smo baš to želeli da konzumiramo i da smo samo mi te posebne pahulje koje gledaju rumunske ekspe rimentalne filmove (iako piše u dnu videa 13 pregleda). Za razliku od veštačkih agenasa, vaš partner je delatnik sa slobodnom voljom, pa možda prosto nije ljubitelj tih filmova. Uostalom, možda je i dobro izaći iz zone komfora, i uživati u nečemu novom, nepersonalizovanom?
Da li će veštački agensi zaista biti nešto kao Terminator ili C-3PO? Bojim se da je to put ka robotima koji govore i ponašaju se kao mi, a odatle bog te pita šta će da se desi.
Stručnjaci iz kompanije OpenAI su u predstavljanju javnosti najnovijeg ChatGPT5 naglasili da im je cilj da korisnici njegovu upotrebu kao veštačkog agensa treba da vide kao ćaskanje sa mnogo pametnim drugom koji možda čak ima i doktorat. Za razliku od prethodne „četvorke“, koja je previše povlađivala korisnicima, ovaj čet-bot, unapređen u veštačkog agensa, obučen je da ima jednu od četiri „ličnosti“ (njihov izbor termina je, naravno, engleska reč personality sa mnogo ontološkog i psihološkog bagaža), a to su „štreber“, „cinik“, „robot“, i „slušalac“.
Ove „ličnosti“ treba da se prilagođavaju vašem načinu komunikacije sa ChatGPT-jem, pravi asistent treba nekad i da vam se suprotstavi i sugeriše da je zahtev za izvršavanjem zadatka možda loš. Pa ipak, ovde je još uvek glavni krivac za pripisivanje „realističnosti“ tim „ličnostima“ kao i za pronalaženje sličnosti sa nama ljudima sam čovek. Ako je put do pakla popločan dobrim namerama, put do robota koji govore i ponašaju se kao mi je popločan antropomorfizacijom koja dovodi do toga da ih posmatramo, u ma kojoj formi razvoja da su, kao saputnike, drugove, asistente. Antropomorfizacija veštačkih agenasa može da bude izuzetno opasna, jer dovodi do formiranja parasocijalnih i paraafektivnih odnosa sa nečim što je zapravo alat obučen na velikim količinama etički i pravno gledano dubiozno prikupljenih podataka.
Pa ipak, ova opasnost nije sprečila radoznalost naučnika i inženjera koji veruju da veštački agensi mogu da budu čak iskorišćeni za figuriranje u psihološkim testovima umesto ljudi. Istraživački tim sastavljen od eksperata sa Stanforda i iz Guglove laboratorije DeepMind je u maju ove godine predstavio projekat simuliranja oko hiljadu realnih ljudi pomoću veštačkih agenasa. Stavovi ovih ljudi, izraženi u okviru grupe raznih psiholoških testova, predstavljali su materijal za obučavanje veštačkih agenasa, koji su, na kraju, replikovali odgovore ovih pojedinaca sa oko 85% tačnosti na prethodno neobrađenom psihološkom testu. Potom je ovaj tim napravio „trezor“ veštačkih agenasa kao simulatora stavova hiljadu pojedinaca. Da li ovaj „trezor“ može da posluži da se psihološka istraživanja vrše mimo ljudskih ispitanika ili u nedostatku ljudskih ispitanika? Da li je ovo korak ka stvaranju Terminatora i C-3PO? Prvo pitanje je vredno daljeg razmišljanja, jer nosi sa sobom posledice po koncepciju istraživanja, uloge, i cilja društvenih nauka. Drugo pitanje je tu da nam odvrati pažnju od prvog.
Ne sviđa mi se što nema neke jasne regulative ko je kriv za grešku veštačkog agensa, jer, koliko vidim, sve je po principu mož’ da bude, al ne mora da znači. Zašto veštački agensi da ne snose posledice za svoje ponašanje kad ih snosim ja za svoje? Neću da moram da odgovaram za njih.
Ambiciozni plan velikih kompanija je prilično nalik „trezoru“ veštačkih agenasa koji je stvorio istraživački tim sastavljen od eksperata sa Stanforda i iz Guglove laboratorije DeepMind. Lančana komunikacija i koordinacija procesa odlučivanja veštačkih agenasa bi omogućili neometan tok rada u određenim sektorima. Jedan od pravnika koji su napustili Gugl kako bi radili za advokatske firme koje se protiv takvih kompanija bore, Bendžamin Softnes, sugerisao je da je odgovornost za jednog ili više uvezanih veštačkih agenasa uvek na onome ko finansira njihov razvoj, jer je najsmislenije „uvek prvo tužiti one sa najdubljim džepovima“. Uz to, američke osiguravajuće kuće su se dosetile da već sad nude usluge zaštite korisnika i naplate odštete za greške veštačkih agenasa. Tako, vrhuška kompanije Anthropic je pre koji mesec morala zvanično da se izvini advokatskoj firmi Lejtam i Votkins, koja je umalo izgubila slučaj na sudu zbog toga što je njihovo čedo, čet6-bot Claude, generisao jednu lažnu referencu. Za Lejtam i Votkins bi bilo veoma isplativo da su imali osiguranje u slučaju greške veštačkih agenasa, jer bi pored izvinjenja dobili i dosta „bendžamina“.
Stručnjaci iz kompanije OpenAI su u predstavljanju javnosti najnovijeg ChatGPT5 naglasili da im je cilj da korisnici njegovu upotrebu kao veštačkog agensa treba da vide kao ćaskanje sa mnogo pametnim drugom koji možda čak ima i doktorat. Za razliku od prethodne „četvorke“, koja je previše povlađivala korisnicima, ovaj čet-bot, unapređen u veštačkog agensa, obučen je da ima jednu od četiri „ličnosti“ (njihov izbor termina je, naravno, engleska reč personality sa mnogo ontološkog i psihološkog bagaža), a to su „štreber“, „cinik“, „robot“, i „slušalac“.
Međutim, na mikronivou, u vašoj kancelariji stvari stoje drugačije. Da li ima svrhe da tužite veštačkog agensa koleginici iz ljudskih resursa? Šta ako ste se odlučili za ćaskanje sa onom „cinik“ ličnošću Chat GPT-ja, pa vas je on „navukao“ na previše grub i ironičan imejl šefu, koji se uvredio? Narednog dana na poslu, vaša koleginica je dobila projekat koji ste vi žarko želeli, a sve to zbog tog glupog veštačkog agensa koji sve može, osim da objasni vašem šefu da je on kriv za imejl, a ne vi. Avaj, pošto smo već utvrdili da veštački agensi nemaju intencionalnost, te ni razloge za svoje postupke, to znači da nemaju ni namere da li će da postupe na određeni način. Samim tim nemaju za šta da budu moralno odgovorni, ako moralnu odgovornost povezujemo sa namerom da se (slobodno!) čine određena dela. Ko je, dakle, kriv? Pa onaj koji je obdaren namerama. Jesmo li to, na nesreću, zaista samo mi? I hoćemo li zauvek to biti samo mi? Skupa je ova sloboda da se dela, skuplja od onih silnih „bendžamina“ koje bi Lejtam i Votkins verovatno dobili.
Jesu li veštački agensi najbitnije otkriće u veštačkoj inteligenciji dosad? Zvuči kao da jesu, svuda pišu da živimo u dobu bez presedana. S druge strane, svako malo se reklamiraju neka najbitnija otkrića, tako da više ni sam nemam pojma.
U svetu u kom je sve najbitnije otkriće, ništa zapravo nije najbitnije otkriće. Napredak u nauci i tehnologiji je retko kada „preko noći“, jer su u pitanju generacije posvećenih i talentovanih istraživača i inženjera koji ispravljaju greške „u hodu“ i polako približavaju čovečanstvo ka istinitijem opisu sveta s jedne strane, i impresivnijim alatima za intervencije u tom svetu s druge strane. Međutim, izveštavanje javnosti o njihovom poslu nije nimalo lako, te se iz tog razloga spori napredak generacija često svodi na taj jedan, navodno revolucionarni trenutak, zamrznut u vremenu i prostoru, kada treba da izađe nečiji članak na internet portalu ili u dnevnim novinama. Činjenice i potraga za izvorima su, međutim, uvek dobar način za proveravanje kako tvrdnji čet-botova i veštačkih agenasa tako i medijskih. U časopisu za popularizaciju nauke i tehnike „Vajerd“, pre tačno trideset godina, izašao je intervju sa profesorkom medija sa Masačusetskog instituta za tehnologiju, Peti Maes, koja je rekla sledeće: „Glavni problem koji primećujem je da će ljudi biti zbunjeni u pogledu odgovornosti za postupke veštačkih agenasa. Pogotovo, na primer, za to što im je potrebno mnogo vremena da se učitaju na mašini, ili jer kupuju nešto preko interneta bez vašeg odobrenja ili znanja.“ Profesorka Maes potom navodi primer njoj vrlo korisnog veštačkog agensa, koji može da joj sakupi sve novinske članke na određenu temu bez obzira na godinu izdanja. Te 1995. godine, Valerij Poljakov je probio rekord u dužini boravka u svemiru, ostavši 438 dana u Svemirskoj stanici Mir, u Japanu je bio strašan zemljotres, Nobelova nagrada za fiziku se dodeljuje za oblast fizike elementarnih čestica, a Windows 95 je pušten u opticaj. Između ostalog. Da li će opis otkrića veštačkih agenasa biti u budućnosti upisan baš u retrospektivi 2025. godine, ili će to biti neko otkriće trenutno slabo vidljivo neuvežbanom oku i, samim tim, nepopularizovano?
Tekst je prvobitno objavljen u 42. broju časopisa Elementi.
Vanja Subotić radi na Institutu za filozofiju Filozofskog fakulteta Univerziteta u Beogradu. Polje njenog istraživanja obuhvata filozofiju kognitivne nauke, filozofiju lingvistike, eksperimentalnu filozofiju i opštu metodologiju nauke. Doktorirala je na filozofskim aspektima modela zasnovanih na veštačkim neuronskim mrežama – kao što su, recimo, modeli procesiranja prirodnog jezika i veliki jezički modeli implementirani u konverzacionu veštačku inteligenciju.