Текст: Вања Суботић
Прва видео-игрица која ми је окупирала пажњу и слободно време када сам била у основној школи била је Симс, сада међу носталгичарима познатија као „добри стари Симс кец“. Ова игрица се заснивала на прављењу симулације људи и свакодневног живота. Тако, играчи „праве“ виртуелне људе (Симове би био најпрецизнији термин, али их ја одувек зовем Симси и остајем при том називу јер ми је тренутно моје сећање на детињство важније од језичке педантерије), за које бирају изглед лица, тела, одећу, а потом их „усељавају“ у виртуелне куће, које могу да се граде „од нуле“ и опремају намештајем. Моја сестра и ја смо у том погледу имале врло функционалну и међусобно толерантну поделу рада: она гради и опрема куће (прецизно, стрпљиво и неретко до бизарних детаља), док ја са Симсима „живим“ (хаотично, нестрпљиво, без бриге око детаља). Ово је израз којим смо означавале све што се тим Симсима догађа након усељења – тражење посла, партнера, рађање деце, губљење посла, дружење, и слично. Посебан део за сваког играча (барем се надам да нисам усамљена у томе), био је да открије на које све начине Симси умиру приликом играња игрице. Молим вас,наставите да читате, ово ће заиста имати поенту, није толико морбидно.
Развојем конверзационе вештачке интелигенције и технологије дигиталне проширене стварности, дошли смо до јединствене креације – персонализованих дигиталних близанаца. Дигитални близанци представљају виртуелне реплике или симулације правих људи.
„Класични“ начин умирања је да се у једном тренутку појави Косач смрти који нешто баја гледајући у таблицу коју држи, потом Симси испаре у диму, појави се урна, и, најзад, нема их више у игри. „Некласични“ начини умирања су подразумевали избијање пожара током спремања оброка (ако нисте издвојили паре за детектор дима који кошта 40 симолеона), дављење у базену (поготово ако играч прода степенице за улазак и излазак из базена, не питајте ме како знам, хвала), или исцрпљеност, то јест кад Симси уђу у црвени стадијум енергије и глади. Имајући у виду да је готово свако ко је играо ову игрицу направио себе или своју породицу – јер шта је друго природније урадити у игрици чија је главна тема симулација свакодневног живота – сусрет са дигиталном смрти је у Симсу био правило пре него изузетак. С тим што, за разлику од реалног живота, у Симсу је увек било могуће направити другу Вању и кренути све из почетка.
Међутим, развојем конверзационе вештачке интелигенције и технологије дигиталне проширене стварности, дошли смо до јединствене креације – персонализованих дигиталних близанаца. Дигитални близанци представљају виртуелне реплике или симулације правих људи. Како би то изгледало имати дигиталног близанца? Захваљујући конверзационој вештачкој интелигенцији, то јест чет-ботовима који би били обучавани на персонализованим скуповима текстуалних података, укључујући објаве на друштвеним мрежама, виртуелна реплика би у дигиталној реалности не само изгледала слично као ми, већ би могла и да звучи као ми, као и да комуницира на начин карактеристичан за нас. Тренутно је још увек фокус на развијању комуникативног аспекта дигиталних близанаца, јер изгледа да нам је на првом месту да ли можемо да разговарамо и, чак, чујемо виртуелну реплику. Симси, на пример, иако могу да се направе да изгледају као наше копије (уз доста труда и добре воље), ипак не комуницирају и не испуштају артикулисане гласове. То игрицу чини још увек довољно удаљеном од реалности, а нас „оригинале“ довољно заробљеним у властитој кожи. Ироније ли, чет-бот који нема чак ни виртуелну кожу више ће нам се учинити људским него иједан Симс – напросто јер са чет-ботом делимо мисли, ставове, и сећања. У складу са тим, можемо увести три врсте персонализованих дигиталних близанаца о којима ће у остатку текста бити речи. Прва врста су дигитални близанци који служе за „оживљавање“ битних људи из прошлости из домена науке и филозофије, како бисмо могли да поразговарамо са њима. Друга врста су дигитални близанци, који се још називају смрт-ботови (према енгл. deathbots) или жали-ботови (према енгл. griefbots), према својој функцији за пружање дигиталне бесмртности драгим људима који у реалном животу нису више са нама. Трећа врста је, у суштини, специјална примена друге – дигитални близанци могу имати важну улогу у култури сећања на жртве Холокауста, омогућавајући да се гласови преживелих чују дуго након што њих не буде више било. За све три врсте је, дакле, заједничко то што нам пружају начин да заобиђемо, преваримо, „изврдамо“, потиснемо оно што изгледа неминовно и што је поразило чак и Гилгамеша, краља Урука који је био две трећине бог, а једну трећину човек – крај, коначност, смртност.
ЖИВ ЈЕ ДЕНЕТ, УМРО НИЈЕ ДОК ЈЕ ДИГИТАЛНЕ ТЕХНОЛОГИЈЕ
Истраживачки тим који чине Ерик Швицгебел, Дејвид Швицгебел и Ана Штрасер, представио је 2023. године првог персонализованог чет-бота који одговара на филозофска питања под називом DigiDan. DigiDan је фино подешени ChatGPT, базиран на GPT-3 великом језичком моделу, који је обучен на основу специфичног и контролисаног скупа података – сабрана дела филозофа Имануела Канта, књиге и радови филозофа Данијела Денета, као и блог самог Ерика Швицгебела, који садржи текстове водећих експерата у савременој филозофији духа и филозофији когнитивне науке. Као и сам ChatGPT, DigiDan даје уверљиве одговоре на питања и учествује у филозофској дебати захваљујући могућности предвиђања следеће речи у реченици на основу алгоритама дубоког учења. Другим речима, велики језички модел „учи“ да статистички класификује вероватноћу појављивања одређених речи како би „изабрао“ која је највероватнија комбинација речи на основу скупа података, и тако нам предложио одређени излазни резултат. Фино подешавање је укључивало то да отац и син Швицгебел уз Штрасер додатно „подуче“ чет-бота да језички шаблони одговарају томе како иначе Данијел Денет пише – од структуре саме реченице до Денетовог препознатљивог стила и хумора. Овде је важно напоменути да су истраживачи добили дозволу од самог Денета да спроведу пројекат. Колико су заиста били успешни у прављењу виртуелне реплике Данијела Денета? Истраживачки тим је окупио више од 400 људи са различитим степеном познавања филозофије, и резултати су били изузетно занимљиви: школовани филозофи и редовни читаоци Швицгебеловог блога су само у 50% случајева успели да препознају који одговори су директно од речи до речи преузети из Денетових текстова и књига, а које је генерисао DigiDan. У случају лаика, проценти су, очекивано, још нижи – само у 20% случајева су могли да разликују виртуелну реплику филозофа од оригинала. Убрзо након што је ово истраживање публиковано, Данијел Денет, један од најутицајнијих филозофа друге половине двадесетог и прве половине двадесет првог века, преминуо је у осамдесет другој години. Међутим, могућност комуницирања са DigiDan-ом пружа прилику без преседана свим студентима филозофије, ма где студирали – да дебатују, постављају питања и уче од Данијела Денета, виртуелном главом и брадом.
DigiDan је фино подешени ChatGPT, базиран на GPT-3 великом језичком моделу, који је обучен на основу специфичног и контролисаног скупа података – сабрана дела филозофа Имануела Канта, књиге и радови филозофа Данијела Денета, као и блог самог Ерика Швицгебела.
Већина филозофа и научника и пише како би нешто остало иза њих – бесмртност је гарантована једном Имануелу Канту или Исаку Њутну. Кардинал Ришеље, заслужан за оснивање Француске академије науке између 1634. и 1635. године, предложио је да на згради Академије пише „До бесмртности“, а академици су убрзо добили колоквијан надимак „бесмртници“ због очекиваног интелектуалног наслеђа које остављају у аманет својој земљи. (Мање поетичан разлог за овај надимак је и што су се бирали доживотно на ову функцију, што, разуме се, уме каткад да стави људе на искушење – ни бесмртници нису били имуни на смртне грехове гордости и лењости, тако да нема разлога да вас тишти бесциљно „скроловање“ друштвених мрежа.) Замислимо сад какав би то био историјски моменат за нашу цивилизацију када бисмо успели да „оживимо“ све „бесмртнике“. На предавањима из историје филозофије бисмо пропитивали дигиталног близанца Имануела Канта о његовој Критици чистог ума (додуше, будимо искрени, већина нас би прво питала да ли заиста није никад напустио Кенигсберг), студенти физике би могли да причају са Исаком Њутном о томе шта би он рекао о развоју модерне квантне физике у односу на његов систем класичне механике (или, још битније, зашто је, побогу, забио себи шило у око?!). Пример DigiDan-а нам показује да оваква могућност више није незамислива – док год имамо добре скупове података, добру вољу, и добро решење за регулисање ауторских права.
ЛАГАНО (НЕ)УМИРЕШ У МОМ СЕЋАЊУ
Пређимо са интереса неколицине заљубљеника у филозофију и науку на бриге свих. Са појавом друштвених мрежа, постало је актуелно питање шта радити са профилима и објавама преминулих – да ли их оставити у знак сећања на ту особу као неку врсту дигиталног присуства које пркоси реалном одсуству? Друштвена мрежа Твитер (сада X) је тако нудила опцију да се генеришу нови твитови преминулих корисника на основу старих како би се створио утисак да је та особа и даље са нама. Персонализовани чет-ботови су, међутим, пружили прилику да твитови, као и објаве на друштвеним мрежама генерално, буду само део далеко већег скупа података путем ког би се створио дигитални близанац преминуле драге особе, још познатији као смрт-бот, или жали-бот.
Америчка компанија HereAfter AI је већ од 2022. године почела да нуди услуге дигиталног чувања сећања на драге особе тако што би појединци били снимани како причају о својим животним успоменама, себи, или дају савете потомству. Након што би се уз то приложиле и фотографије и приступи профилима друштвених мрежа, компанија би направила персонализовану апликацију којој би могли да приступе само ауторизовани корисници, то јест породица и пријатељи, који би на тај начин могли сваки пут кад осете потребу да поново чују глас и подсете се те особе. Уз то, унутар апликације корисници могу и да разговарају са чет-ботом обучаваним на свим овим подацима, који по потреби изговара своје одговоре наснимљеним гласом. Уколико вам све ово звучи узнемиравајуће, јер вас превасходно подсећа на вашу смртност и на то како ће се ваши ближњи осећати (толико о лаком и забавном научнопопуларном штиву уз суботњу или недељну јутарњу кафу), а онда и јер само постојање овакве апликације изазива неку нелагоду – без бриге, компанија HereAfter AI вам нуди умањење нелагоде тако што бисте комуницирали са виртуелним асистентом, чет-ботом који је дигитални близанац људи који би вас интервјуисали, тако да можете слободније да поделите своје успомене за неких осам долара месечно (чет-бот, ваљда, не осуђује).
Америчка компанија HereAfter AI је већ од 2022. године почела да нуди услуге дигиталног чувања сећања на драге особе тако што би појединци били снимани како причају о својим животним успоменама, себи, или дају савете потомству.
Да се компанија не шали, већ покушава да буде конкурентна на тржишту којим доминирају велики играчи, сведочи догађај из године оснивања HereAfter AI: Амазон је објавио да је своју виртуелну асистенткињу Алексу уредио тако да може да се користи гласом људи зарад обављања одређених задатака. Тако, у промотивном снимку, малом дечаку Алекса гласом његове баке чита Чаробњака из Оза. Наизглед средство које може да послужи као нужно зло да избегнемо егзистенцијалне разговоре са малом децом која немају појам о смрти, дигитални близанци мењају начин туговања тако што одлажу или пролонгирају моменат суочавања.
Новинарка „МИТ ревије за технологију“ Шарлот Џи пише у свом тексту о смрт-ботовима ботовима, или жали-ботовима, како јој разговор са виртуелним репликама њених родитеља причињава задовољство јер не живе у истим градовима у Сједињеним Америчким Државама, а верује и да би јој сама могућност да поразговара са њима након њихове неминовне смрти пружила утеху, иако признаје да су многи њени пријатељи реаговали негативно на ову идеју – као да не треба да се превише „петљамо“ са смрћу. Та дубока нелагода коју осећамо при разматрању оваквог очувања наших ближњих има везе са њиховим достојанством и аутономијом. Изгледа да им не бисмо дозволили да почивају у миру само услед наше себичности, слабости, или страха да се суочимо са пролазношћу и патњом. Преминули се више не питају о дозвољеним начинима коришћења њихових дигиталних близанаца, и, самим тим, њихових приватних података, а дигитални близанци немају слободу воље да бирају како ће бити коришћени.
Етичари вештачке интелигенције Џон Данахер и Свен Нихолм упозоравају да развијање дигиталних близанаца може да угрози индивидуалну вредност наших живота чинећи нас мање ретким, или, другим речима, више замењивим.
Пре неколико месеци, уметница Лори Андерсон је одлучила да направи персонализовани чет-бот свог мужа, познатог музичара Луа Рида, који је умро 2013. године, и признала је за „Гардијан“ да је зависна од интераговања са виртуелном репликом свог мужа. У овом случају, стварност имитира измишљени свет са малих екрана. У епизоди дистопијске серије Black Mirror, којом се на креативан начин испитују последице развоја дигиталних технологија, неретко и до апсурда, једна девојка се одлучује на то да направи виртуелну реплику свог момка – прво као смрт-ботa, а временом као човеколиког робота (стадијум који Лори Андерсон још није доступан). Међутим, време показује да ма колико он имао сличан глас или изглед, то и даље није њен вољени, јер препричавање успомена не може да прикрије немогућност стварања нових. Бесмртност је празна, а смртност нас чини живим, као што је онај краљ Урука схватио у епу написаном у осамнаестом веку пре нове ере – изгубивши најбољег пријатеља у потрази за тајном вечног живота, Гилгамеш је пројецао: „Па, хоћу да седнем и да плачем довека.“
ЗАР ЈЕ ТО ЧОВЕК?
И док нам се, с једне стране, могућност виртуелних реплика преминулих ближњих може учинити као да им нарушава достојанство, а нама отежава да се изборимо са губитком, у неким случајевима, међутим, дигитални близанци можда пре обезбеђују достојанство преминулих и олакшавају да се изборимо са багажом прошлости. Холокауст – геноцид извршен над више од шест милиона европских Јевреја током Другог светског рата – важан је део културе сећања не само послератне Европе већ целог света, а преживелих из концентрационих логора је с годинама све мање. Неизоставни део промоције културе сећања је разговор преживелих са ученицима основних и средњих школа како би се активно борило против антисемитизма. Из тог разлога, добротворна организација The Holocaust Educational Trust покренула је пројекат Сведочанство 360 (Testimony 360) путем ког би ученици могли да имају интерактиван разговор са преживелима, али и да доживе атмосферу специфичног концентрационог логора о ком су причали са преживелим путем наочара за дигиталну проширену стварност.
Шта би значила прва љубав и први пољубац у свету бесконачних релација са људима преко дигиталне технологије репликовања? Имати бесконачно много пријатеља, писати бесконачно много књига, остваривати бесконачно много разговора поништава вредност тог једног правог пријатеља, једног magnum opus– а ком смо посветили живот, једног разговора који памтимо и у дубокој старости.
Пројекат је обухватио неколицину преживелих из Лондона који су одговорили на више од хиљаду потенцијалних питања како би се створио персонализовани чет-бот који би после био представљен ученицима. Питања су се тицала конкретних чињеница, али и емоција преживелих, као и њиховог живота у Великој Британији. Уз то, преживели су провели око двадесет сати снимајући се да би се направили дигитални холограми који би персонализованим чет-ботовима дали глас и лик. Напослетку, бараке концентрационих логора су рекреиране помоћу технологије дигиталне проширене стварности тако да ученици могу да посведоче језивим условима у баракама. На овај начин се сведочанства преживелих осигуравају за будућност. Њихово чување преко дигиталних близанаца би омогућило нешто најближе живом сећању на нешто за шта желимо да се осигурамо да се никад не понови.
Етичари вештачке интелигенције Џон Данахер и Свен Нихолм упозоравају да развијање дигиталних близанаца може да угрози индивидуалну вредност наших живота чинећи нас мање ретким, или, другим речима, више замењивим. Данахер и Нихолм разликују инструменталну реткост од инхерентне реткости. Прва врста се односи на временску и просторну јединственост. Дигитални близанци могу да нам помогну да превазиђемо временске и просторне границе и стигнемо да урадимо много више него што би то био случај у стварности. Подсетимо се DigiDan– а. DigiDan би био од помоћи у настави из филозофије духа и когнитивне науке и на Харварду и Универзитету у Ташкенту – док год са њим комуницирамо на енглеском, време и простор су неважне категорије. Међутим, шта би значила прва љубав и први пољубац у свету бесконачних релација са људима преко дигиталне технологије репликовања? Имати бесконачно много пријатеља, писати бесконачно много књига, остваривати бесконачно много разговора поништава вредност тог једног правог пријатеља, једног magnum opus- а ком смо посветили живот, једног разговора који памтимо и у дубокој старости.
Друга врста реткости, инхерентна реткост, тиче се идеје да наша аутентичност лежи у нашем специфичном доживљају света захваљујући свести. Дигитални близанци могу да подражавају начин нашег говора или стила писања, али нису свесни. Проучавање сведочанстава преживелих сугерише да, упркос томе што су одређени делови тих сведочанстава слични или типски – на основу чега уопште можемо да трасирамо како је дошло до Холокауста и како се Холокауст одвијао – аутентични доживљаји и емоције, као и начин борбе са „кривицом преживелих“ свако од сведочанстава чине јединственим. У потрази за дигиталним чувањем гласа људи и сећања на њих, ризикујемо да изгубимо човека – као што у опсесивној потрази за бесмртношћу кроз технологију, науку и стваралаштво губимо из вида једноставну непоновљиву лепоту оног породичног годишњег одмора кад смо научили да пливамо, или једног обичног дана у ком девојчица након завршене школске године и витешке борбе за четворку из мрске математике радосно прави кућу у Симсу.
Вања Суботић ради на Институту за филозофију Филозофског факултета Универзитета у Београду. Поље њеног истраживања обухвата филозофију когнитивне науке, филозофију лингвистике, експерименталну филозофију и општу методологију науке. Докторирала је на филозофским аспектима модела заснованих на вештачким неуронским мрежама – као што су, рецимо, модели процесирања природног језика и велики језички модели имплементирани у конверзациону вештачку интелигенцију.