Roboti

ROBI: Etika mašina

Kratka priča Robi je  jedna od najznačajnijih priča u istoriji naučne fantastike, ali ne samo zbog načina Asimovljevog pripovedanja o mašinama

„Najuzbudljivija fraza koja se može čuti među naučnicima nije ‘Eureka’, nego ‘Ovo je zabavno!’“

Isak Asimov

 

„Uzmite slučaj robota Robi“, rekla je dr Suzan Kelvin, „kad god nas neko nazove tvorcima demona, uvek se setim njega. Robi je bio robot koji nije umeo da govori. Proizvodili su ga i prodavali 1996. To su bili dani pre ekstremne specijalizacije robota.“

Porodica Veston je 1996. godine odlučila da kao dadilju za njihovu ćerku Gloriju kupi robota Robija. Te godine za robotima je vladala prava pomama. Imati robota značilo je prestiž, ali ta euforija nije dugo trajala.  Dakle, kako se robotika razvijala, u javnosti  se širila antirobot ideja: sumnja u razvoj tehnologije (pod naletom verskog fanatizma i ugroženih radničkih sindikata). 

Tako je i sama gospođa Veston,  plašeći se mišljenja okolne, postala sumnjičava u svog kućnog pomoćnika Robija, koji je već dve godine provodio vreme sa njenom sada osmogodišnjom ćerkom. Pošto je Glorija bila više zainteresovana za igranje sa Robijem nego sa drugom decom, njena zabrinuta majka je počela da brine o tome da li će joj se dete „normalno“ razvijati ne učeći odgovarajuće socijalne veštine.

Dve godine nakon kupovine Robija, gospodin Veston, na ubeđivanje svoje supruge, odlučuje da vrati Robija u fabriku. Zbog gubitka svog najboljeg prijatelja Glorija postaje tužna i povučena, što je nateralno njene roditelje da nešto preduzmu. Porodica Veston odlučuje da leto provede u Njujorku…

Gotovo sve naučnopopularne priče koje su objavljene pre ove kratke priče Isaka Asimova, a gde su roboti u glavnim ulogama, za teme su imali nešto što se nazivalo Frankenštajnov kompleks: strah da će se robot nužno okrenuti protiv svog Stvoritelja. Asimov je vrlo dosledno smatrao da će se ovo uverenje o Frankenštajnovom kompleksu vremenom izgubiti, te je u većini svojih dela pokušao da da primere robota koji zapravo služe čovečanstvu.

Kratka priča Robi je prvo objavljena 1940. godine u časopisu „Super naučne priče“ pod nazivom Čudni drugar, a potom sa još nekoliko kratkih priča biva uvrštena u zbirku Ja, robot, 1950, i tako postaje jedna od najznačajnijih priča u istoriji naučne fantastike, ali ne samo zbog revolucionarno toplog i humanističkog Asimovljevog pripovedanja o mašinama, već pre svega zbog predloga razrešenja pitanja etike i robotike putem Tri zakona robotike.

Prvi zakon: Robot ne sme da povredi čoveka ili da svojom neaktivnošću dozvoli da čovek bude povređen.

Drugi zakon: Robot mora da izvršava naređenja koja mu daju ljudi, osim kada su takva naređenja u sukobu sa Prvim zakonom.

Treći zakon: Robot mora da štiti svoju egzistenciju sve dok takva zaštita nije u sukobu s Prvim i Drugim zakonom.

Vremenom, kako su njegovi zakoni postali primenjivi u svetu naučne fantastike, ali i problematizovani u realnosti, Asimov je dodao i Nulti zakon, koji kaže: Robot ne sme da ugrozi čovečanstvo, ili da svojom neaktivnošću dozvoli da čovečanstvo bude ugroženo.

Setimo se sada priče o vojnim robotima (str. 26) ili robotu automobilu (str. 32). Da li mašina treba da ospe paljbu na objekat koji je prepoznat kao meta iako je on u isto vreme možda nekome i utočište? Da li robot vozač po svaku cenu treba da zaobiđe pešaka na pešačkom prelazu ako to podrazumeva udaranje drugih vozila ili ugrožavanje sopstvenih putnika?

To su pitanja koja vode ka polju etike mašina, čiji je cilj da istima pruži mogućnost da donesu odluke na odgovarajući način. Drugim rečima, da budu u stanju da razdvoje dobro od lošeg. Ovo se može postići samo učinkovitom saradnjom inženjera, etičara, pravnika i kreatora politika, kako bi se roboti iz realnosti bolje obučili i opremili za donošenje moralnih odluka, nego što je to bio Halov slučaj. 

Ukoliko takva saradnja izostane, bićemo osuđeni na onu drugu varijantu rešenja koja podrazumeva zabranu autonomnih vojnih robota, što će uzrokovati i zabranu upotrebe svih automobila i letelica koje nemaju punu pažnju čoveka u svakom trenutku.

KNJIGA O ROBOTIMA

 

U svetu danas ima više od 4.500.000 robota. Taj broj raste onako kako automati od čoveka preuzimaju sve više teških, neprijatnih ili opasnih poslova. Da li će u budućnosti svaka kuća imati svog robota? O ovom i drugim pitanjima saznajte u katalogu “Roboti” koji je CPN izdao povodom “Dana budućnosti”. Tekstove su priredili Marija Nikolić, Marija Vidić i Slobodan Bubnjević, a publikaciju je dizajnirao Jovan Mikonjić. Knjiga o robotima se može kupiti na Velikoj izložbi robota, u Galeriji Robne kuće “Beograd”, u Knez Mihailovoj 5, po ceni od samo 150 dinara.

Istražite više o Robotima.

 

Istražite druge tekstove:


Grb Republike Srbije
ecsite nsta eusea astc

CPN
Ulica kralja Petra 46
11000 Beograd
Republika Srbija
+381 11 24 00 260
centar@cpn.rs