Tekst: Vanja Subotić
Prva video-igrica koja mi je okupirala pažnju i slobodno vreme kada sam bila u osnovnoj školi bila je Sims, sada među nostalgičarima poznatija kao „dobri stari Sims kec“. Ova igrica se zasnivala na pravljenju simulacije ljudi i svakodnevnog života. Tako, igrači „prave“ virtuelne ljude (Simove bi bio najprecizniji termin, ali ih ja oduvek zovem Simsi i ostajem pri tom nazivu jer mi je trenutno moje sećanje na detinjstvo važnije od jezičke pedanterije), za koje biraju izgled lica, tela, odeću, a potom ih „useljavaju“ u virtuelne kuće, koje mogu da se grade „od nule“ i opremaju nameštajem. Moja sestra i ja smo u tom pogledu imale vrlo funkcionalnu i međusobno tolerantnu podelu rada: ona gradi i oprema kuće (precizno, strpljivo i neretko do bizarnih detalja), dok ja sa Simsima „živim“ (haotično, nestrpljivo, bez brige oko detalja). Ovo je izraz kojim smo označavale sve što se tim Simsima događa nakon useljenja – traženje posla, partnera, rađanje dece, gubljenje posla, druženje, i slično. Poseban deo za svakog igrača (barem se nadam da nisam usamljena u tome), bio je da otkrije na koje sve načine Simsi umiru prilikom igranja igrice. Molim vas,nastavite da čitate, ovo će zaista imati poentu, nije toliko morbidno.
Razvojem konverzacione veštačke inteligencije i tehnologije digitalne proširene stvarnosti, došli smo do jedinstvene kreacije – personalizovanih digitalnih blizanaca. Digitalni blizanci predstavljaju virtuelne replike ili simulacije pravih ljudi.
„Klasični“ način umiranja je da se u jednom trenutku pojavi Kosač smrti koji nešto baja gledajući u tablicu koju drži, potom Simsi ispare u dimu, pojavi se urna, i, najzad, nema ih više u igri. „Neklasični“ načini umiranja su podrazumevali izbijanje požara tokom spremanja obroka (ako niste izdvojili pare za detektor dima koji košta 40 simoleona), davljenje u bazenu (pogotovo ako igrač proda stepenice za ulazak i izlazak iz bazena, ne pitajte me kako znam, hvala), ili iscrpljenost, to jest kad Simsi uđu u crveni stadijum energije i gladi. Imajući u vidu da je gotovo svako ko je igrao ovu igricu napravio sebe ili svoju porodicu – jer šta je drugo prirodnije uraditi u igrici čija je glavna tema simulacija svakodnevnog života – susret sa digitalnom smrti je u Simsu bio pravilo pre nego izuzetak. S tim što, za razliku od realnog života, u Simsu je uvek bilo moguće napraviti drugu Vanju i krenuti sve iz početka.
Međutim, razvojem konverzacione veštačke inteligencije i tehnologije digitalne proširene stvarnosti, došli smo do jedinstvene kreacije – personalizovanih digitalnih blizanaca. Digitalni blizanci predstavljaju virtuelne replike ili simulacije pravih ljudi. Kako bi to izgledalo imati digitalnog blizanca? Zahvaljujući konverzacionoj veštačkoj inteligenciji, to jest čet-botovima koji bi bili obučavani na personalizovanim skupovima tekstualnih podataka, uključujući objave na društvenim mrežama, virtuelna replika bi u digitalnoj realnosti ne samo izgledala slično kao mi, već bi mogla i da zvuči kao mi, kao i da komunicira na način karakterističan za nas. Trenutno je još uvek fokus na razvijanju komunikativnog aspekta digitalnih blizanaca, jer izgleda da nam je na prvom mestu da li možemo da razgovaramo i, čak, čujemo virtuelnu repliku. Simsi, na primer, iako mogu da se naprave da izgledaju kao naše kopije (uz dosta truda i dobre volje), ipak ne komuniciraju i ne ispuštaju artikulisane glasove. To igricu čini još uvek dovoljno udaljenom od realnosti, a nas „originale“ dovoljno zarobljenim u vlastitoj koži. Ironije li, čet-bot koji nema čak ni virtuelnu kožu više će nam se učiniti ljudskim nego ijedan Sims – naprosto jer sa čet-botom delimo misli, stavove, i sećanja. U skladu sa tim, možemo uvesti tri vrste personalizovanih digitalnih blizanaca o kojima će u ostatku teksta biti reči. Prva vrsta su digitalni blizanci koji služe za „oživljavanje“ bitnih ljudi iz prošlosti iz domena nauke i filozofije, kako bismo mogli da porazgovaramo sa njima. Druga vrsta su digitalni blizanci, koji se još nazivaju smrt-botovi (prema engl. deathbots) ili žali-botovi (prema engl. griefbots), prema svojoj funkciji za pružanje digitalne besmrtnosti dragim ljudima koji u realnom životu nisu više sa nama. Treća vrsta je, u suštini, specijalna primena druge – digitalni blizanci mogu imati važnu ulogu u kulturi sećanja na žrtve Holokausta, omogućavajući da se glasovi preživelih čuju dugo nakon što njih ne bude više bilo. Za sve tri vrste je, dakle, zajedničko to što nam pružaju način da zaobiđemo, prevarimo, „izvrdamo“, potisnemo ono što izgleda neminovno i što je porazilo čak i Gilgameša, kralja Uruka koji je bio dve trećine bog, a jednu trećinu čovek – kraj, konačnost, smrtnost.
ŽIV JE DENET, UMRO NIJE DOK JE DIGITALNE TEHNOLOGIJE
Istraživački tim koji čine Erik Švicgebel, Dejvid Švicgebel i Ana Štraser, predstavio je 2023. godine prvog personalizovanog čet-bota koji odgovara na filozofska pitanja pod nazivom DigiDan. DigiDan je fino podešeni ChatGPT, baziran na GPT-3 velikom jezičkom modelu, koji je obučen na osnovu specifičnog i kontrolisanog skupa podataka – sabrana dela filozofa Imanuela Kanta, knjige i radovi filozofa Danijela Deneta, kao i blog samog Erika Švicgebela, koji sadrži tekstove vodećih eksperata u savremenoj filozofiji duha i filozofiji kognitivne nauke. Kao i sam ChatGPT, DigiDan daje uverljive odgovore na pitanja i učestvuje u filozofskoj debati zahvaljujući mogućnosti predviđanja sledeće reči u rečenici na osnovu algoritama dubokog učenja. Drugim rečima, veliki jezički model „uči“ da statistički klasifikuje verovatnoću pojavljivanja određenih reči kako bi „izabrao“ koja je najverovatnija kombinacija reči na osnovu skupa podataka, i tako nam predložio određeni izlazni rezultat. Fino podešavanje je uključivalo to da otac i sin Švicgebel uz Štraser dodatno „poduče“ čet-bota da jezički šabloni odgovaraju tome kako inače Danijel Denet piše – od strukture same rečenice do Denetovog prepoznatljivog stila i humora. Ovde je važno napomenuti da su istraživači dobili dozvolu od samog Deneta da sprovedu projekat. Koliko su zaista bili uspešni u pravljenju virtuelne replike Danijela Deneta? Istraživački tim je okupio više od 400 ljudi sa različitim stepenom poznavanja filozofije, i rezultati su bili izuzetno zanimljivi: školovani filozofi i redovni čitaoci Švicgebelovog bloga su samo u 50% slučajeva uspeli da prepoznaju koji odgovori su direktno od reči do reči preuzeti iz Denetovih tekstova i knjiga, a koje je generisao DigiDan. U slučaju laika, procenti su, očekivano, još niži – samo u 20% slučajeva su mogli da razlikuju virtuelnu repliku filozofa od originala. Ubrzo nakon što je ovo istraživanje publikovano, Danijel Denet, jedan od najuticajnijih filozofa druge polovine dvadesetog i prve polovine dvadeset prvog veka, preminuo je u osamdeset drugoj godini. Međutim, mogućnost komuniciranja sa DigiDan-om pruža priliku bez presedana svim studentima filozofije, ma gde studirali – da debatuju, postavljaju pitanja i uče od Danijela Deneta, virtuelnom glavom i bradom.
DigiDan je fino podešeni ChatGPT, baziran na GPT-3 velikom jezičkom modelu, koji je obučen na osnovu specifičnog i kontrolisanog skupa podataka – sabrana dela filozofa Imanuela Kanta, knjige i radovi filozofa Danijela Deneta, kao i blog samog Erika Švicgebela.
Većina filozofa i naučnika i piše kako bi nešto ostalo iza njih – besmrtnost je garantovana jednom Imanuelu Kantu ili Isaku Njutnu. Kardinal Rišelje, zaslužan za osnivanje Francuske akademije nauke između 1634. i 1635. godine, predložio je da na zgradi Akademije piše „Do besmrtnosti“, a akademici su ubrzo dobili kolokvijan nadimak „besmrtnici“ zbog očekivanog intelektualnog nasleđa koje ostavljaju u amanet svojoj zemlji. (Manje poetičan razlog za ovaj nadimak je i što su se birali doživotno na ovu funkciju, što, razume se, ume katkad da stavi ljude na iskušenje – ni besmrtnici nisu bili imuni na smrtne grehove gordosti i lenjosti, tako da nema razloga da vas tišti besciljno „skrolovanje“ društvenih mreža.) Zamislimo sad kakav bi to bio istorijski momenat za našu civilizaciju kada bismo uspeli da „oživimo“ sve „besmrtnike“. Na predavanjima iz istorije filozofije bismo propitivali digitalnog blizanca Imanuela Kanta o njegovoj Kritici čistog uma (doduše, budimo iskreni, većina nas bi prvo pitala da li zaista nije nikad napustio Kenigsberg), studenti fizike bi mogli da pričaju sa Isakom Njutnom o tome šta bi on rekao o razvoju moderne kvantne fizike u odnosu na njegov sistem klasične mehanike (ili, još bitnije, zašto je, pobogu, zabio sebi šilo u oko?!). Primer DigiDan-a nam pokazuje da ovakva mogućnost više nije nezamisliva – dok god imamo dobre skupove podataka, dobru volju, i dobro rešenje za regulisanje autorskih prava.
LAGANO (NE)UMIREŠ U MOM SEĆANJU
Pređimo sa interesa nekolicine zaljubljenika u filozofiju i nauku na brige svih. Sa pojavom društvenih mreža, postalo je aktuelno pitanje šta raditi sa profilima i objavama preminulih – da li ih ostaviti u znak sećanja na tu osobu kao neku vrstu digitalnog prisustva koje prkosi realnom odsustvu? Društvena mreža Tviter (sada X) je tako nudila opciju da se generišu novi tvitovi preminulih korisnika na osnovu starih kako bi se stvorio utisak da je ta osoba i dalje sa nama. Personalizovani čet-botovi su, međutim, pružili priliku da tvitovi, kao i objave na društvenim mrežama generalno, budu samo deo daleko većeg skupa podataka putem kog bi se stvorio digitalni blizanac preminule drage osobe, još poznatiji kao smrt-bot, ili žali-bot.
Američka kompanija HereAfter AI je već od 2022. godine počela da nudi usluge digitalnog čuvanja sećanja na drage osobe tako što bi pojedinci bili snimani kako pričaju o svojim životnim uspomenama, sebi, ili daju savete potomstvu. Nakon što bi se uz to priložile i fotografije i pristupi profilima društvenih mreža, kompanija bi napravila personalizovanu aplikaciju kojoj bi mogli da pristupe samo autorizovani korisnici, to jest porodica i prijatelji, koji bi na taj način mogli svaki put kad osete potrebu da ponovo čuju glas i podsete se te osobe. Uz to, unutar aplikacije korisnici mogu i da razgovaraju sa čet-botom obučavanim na svim ovim podacima, koji po potrebi izgovara svoje odgovore nasnimljenim glasom. Ukoliko vam sve ovo zvuči uznemiravajuće, jer vas prevashodno podseća na vašu smrtnost i na to kako će se vaši bližnji osećati (toliko o lakom i zabavnom naučnopopularnom štivu uz subotnju ili nedeljnu jutarnju kafu), a onda i jer samo postojanje ovakve aplikacije izaziva neku nelagodu – bez brige, kompanija HereAfter AI vam nudi umanjenje nelagode tako što biste komunicirali sa virtuelnim asistentom, čet-botom koji je digitalni blizanac ljudi koji bi vas intervjuisali, tako da možete slobodnije da podelite svoje uspomene za nekih osam dolara mesečno (čet-bot, valjda, ne osuđuje).
Američka kompanija HereAfter AI je već od 2022. godine počela da nudi usluge digitalnog čuvanja sećanja na drage osobe tako što bi pojedinci bili snimani kako pričaju o svojim životnim uspomenama, sebi, ili daju savete potomstvu.
Da se kompanija ne šali, već pokušava da bude konkurentna na tržištu kojim dominiraju veliki igrači, svedoči događaj iz godine osnivanja HereAfter AI: Amazon je objavio da je svoju virtuelnu asistentkinju Aleksu uredio tako da može da se koristi glasom ljudi zarad obavljanja određenih zadataka. Tako, u promotivnom snimku, malom dečaku Aleksa glasom njegove bake čita Čarobnjaka iz Oza. Naizgled sredstvo koje može da posluži kao nužno zlo da izbegnemo egzistencijalne razgovore sa malom decom koja nemaju pojam o smrti, digitalni blizanci menjaju način tugovanja tako što odlažu ili prolongiraju momenat suočavanja.
Novinarka „MIT revije za tehnologiju“ Šarlot Dži piše u svom tekstu o smrt-botovima botovima, ili žali-botovima, kako joj razgovor sa virtuelnim replikama njenih roditelja pričinjava zadovoljstvo jer ne žive u istim gradovima u Sjedinjenim Američkim Državama, a veruje i da bi joj sama mogućnost da porazgovara sa njima nakon njihove neminovne smrti pružila utehu, iako priznaje da su mnogi njeni prijatelji reagovali negativno na ovu ideju – kao da ne treba da se previše „petljamo“ sa smrću. Ta duboka nelagoda koju osećamo pri razmatranju ovakvog očuvanja naših bližnjih ima veze sa njihovim dostojanstvom i autonomijom. Izgleda da im ne bismo dozvolili da počivaju u miru samo usled naše sebičnosti, slabosti, ili straha da se suočimo sa prolaznošću i patnjom. Preminuli se više ne pitaju o dozvoljenim načinima korišćenja njihovih digitalnih blizanaca, i, samim tim, njihovih privatnih podataka, a digitalni blizanci nemaju slobodu volje da biraju kako će biti korišćeni.
Etičari veštačke inteligencije Džon Danaher i Sven Niholm upozoravaju da razvijanje digitalnih blizanaca može da ugrozi individualnu vrednost naših života čineći nas manje retkim, ili, drugim rečima, više zamenjivim.
Pre nekoliko meseci, umetnica Lori Anderson je odlučila da napravi personalizovani čet-bot svog muža, poznatog muzičara Lua Rida, koji je umro 2013. godine, i priznala je za „Gardijan“ da je zavisna od interagovanja sa virtuelnom replikom svog muža. U ovom slučaju, stvarnost imitira izmišljeni svet sa malih ekrana. U epizodi distopijske serije Black Mirror, kojom se na kreativan način ispituju posledice razvoja digitalnih tehnologija, neretko i do apsurda, jedna devojka se odlučuje na to da napravi virtuelnu repliku svog momka – prvo kao smrt-bota, a vremenom kao čovekolikog robota (stadijum koji Lori Anderson još nije dostupan). Međutim, vreme pokazuje da ma koliko on imao sličan glas ili izgled, to i dalje nije njen voljeni, jer prepričavanje uspomena ne može da prikrije nemogućnost stvaranja novih. Besmrtnost je prazna, a smrtnost nas čini živim, kao što je onaj kralj Uruka shvatio u epu napisanom u osamnaestom veku pre nove ere – izgubivši najboljeg prijatelja u potrazi za tajnom večnog života, Gilgameš je projecao: „Pa, hoću da sednem i da plačem doveka.“
ZAR JE TO ČOVEK?
I dok nam se, s jedne strane, mogućnost virtuelnih replika preminulih bližnjih može učiniti kao da im narušava dostojanstvo, a nama otežava da se izborimo sa gubitkom, u nekim slučajevima, međutim, digitalni blizanci možda pre obezbeđuju dostojanstvo preminulih i olakšavaju da se izborimo sa bagažom prošlosti. Holokaust – genocid izvršen nad više od šest miliona evropskih Jevreja tokom Drugog svetskog rata – važan je deo kulture sećanja ne samo posleratne Evrope već celog sveta, a preživelih iz koncentracionih logora je s godinama sve manje. Neizostavni deo promocije kulture sećanja je razgovor preživelih sa učenicima osnovnih i srednjih škola kako bi se aktivno borilo protiv antisemitizma. Iz tog razloga, dobrotvorna organizacija The Holocaust Educational Trust pokrenula je projekat Svedočanstvo 360 (Testimony 360) putem kog bi učenici mogli da imaju interaktivan razgovor sa preživelima, ali i da dožive atmosferu specifičnog koncentracionog logora o kom su pričali sa preživelim putem naočara za digitalnu proširenu stvarnost.
Šta bi značila prva ljubav i prvi poljubac u svetu beskonačnih relacija sa ljudima preko digitalne tehnologije replikovanja? Imati beskonačno mnogo prijatelja, pisati beskonačno mnogo knjiga, ostvarivati beskonačno mnogo razgovora poništava vrednost tog jednog pravog prijatelja, jednog magnum opus– a kom smo posvetili život, jednog razgovora koji pamtimo i u dubokoj starosti.
Projekat je obuhvatio nekolicinu preživelih iz Londona koji su odgovorili na više od hiljadu potencijalnih pitanja kako bi se stvorio personalizovani čet-bot koji bi posle bio predstavljen učenicima. Pitanja su se ticala konkretnih činjenica, ali i emocija preživelih, kao i njihovog života u Velikoj Britaniji. Uz to, preživeli su proveli oko dvadeset sati snimajući se da bi se napravili digitalni hologrami koji bi personalizovanim čet-botovima dali glas i lik. Naposletku, barake koncentracionih logora su rekreirane pomoću tehnologije digitalne proširene stvarnosti tako da učenici mogu da posvedoče jezivim uslovima u barakama. Na ovaj način se svedočanstva preživelih osiguravaju za budućnost. Njihovo čuvanje preko digitalnih blizanaca bi omogućilo nešto najbliže živom sećanju na nešto za šta želimo da se osiguramo da se nikad ne ponovi.
Etičari veštačke inteligencije Džon Danaher i Sven Niholm upozoravaju da razvijanje digitalnih blizanaca može da ugrozi individualnu vrednost naših života čineći nas manje retkim, ili, drugim rečima, više zamenjivim. Danaher i Niholm razlikuju instrumentalnu retkost od inherentne retkosti. Prva vrsta se odnosi na vremensku i prostornu jedinstvenost. Digitalni blizanci mogu da nam pomognu da prevaziđemo vremenske i prostorne granice i stignemo da uradimo mnogo više nego što bi to bio slučaj u stvarnosti. Podsetimo se DigiDan– a. DigiDan bi bio od pomoći u nastavi iz filozofije duha i kognitivne nauke i na Harvardu i Univerzitetu u Taškentu – dok god sa njim komuniciramo na engleskom, vreme i prostor su nevažne kategorije. Međutim, šta bi značila prva ljubav i prvi poljubac u svetu beskonačnih relacija sa ljudima preko digitalne tehnologije replikovanja? Imati beskonačno mnogo prijatelja, pisati beskonačno mnogo knjiga, ostvarivati beskonačno mnogo razgovora poništava vrednost tog jednog pravog prijatelja, jednog magnum opus- a kom smo posvetili život, jednog razgovora koji pamtimo i u dubokoj starosti.
Druga vrsta retkosti, inherentna retkost, tiče se ideje da naša autentičnost leži u našem specifičnom doživljaju sveta zahvaljujući svesti. Digitalni blizanci mogu da podražavaju način našeg govora ili stila pisanja, ali nisu svesni. Proučavanje svedočanstava preživelih sugeriše da, uprkos tome što su određeni delovi tih svedočanstava slični ili tipski – na osnovu čega uopšte možemo da trasiramo kako je došlo do Holokausta i kako se Holokaust odvijao – autentični doživljaji i emocije, kao i način borbe sa „krivicom preživelih“ svako od svedočanstava čine jedinstvenim. U potrazi za digitalnim čuvanjem glasa ljudi i sećanja na njih, rizikujemo da izgubimo čoveka – kao što u opsesivnoj potrazi za besmrtnošću kroz tehnologiju, nauku i stvaralaštvo gubimo iz vida jednostavnu neponovljivu lepotu onog porodičnog godišnjeg odmora kad smo naučili da plivamo, ili jednog običnog dana u kom devojčica nakon završene školske godine i viteške borbe za četvorku iz mrske matematike radosno pravi kuću u Simsu.
Vanja Subotić radi na Institutu za filozofiju Filozofskog fakulteta Univerziteta u Beogradu. Polje njenog istraživanja obuhvata filozofiju kognitivne nauke, filozofiju lingvistike, eksperimentalnu filozofiju i opštu metodologiju nauke. Doktorirala je na filozofskim aspektima modela zasnovanih na veštačkim neuronskim mrežama – kao što su, recimo, modeli procesiranja prirodnog jezika i veliki jezički modeli implementirani u konverzacionu veštačku inteligenciju.