Razvoj tehnologija, a posebno ispitivanja veštačke inteligencije, navode na pomisao: ukoliko je verovatnoća da se čovek negativno ponaša tako velika, kolika će ona biti kod isprogramirane humanoidne mašine

Piše: Marija Nikolić 

Toliko puta se u istoriji čovečanstva pokazalo da je čovek, koliko god da je u stanju nešto da unapredi, jednako u stanju nešto i da uništi. Koliko smo dosad mogli da utvrdimo, nema boljih od nas. Možda smo i jedini. Veoma je zastrašujća pomisao da smo možda istovremeno vrhunsko dostignuće vasione, ali i njen najgori košmar. Pošto smo tako neobično nemarni u čuvanju drugih stvari, bile one žive ili ne, nemamo pojma o tome koliko je živih stvorenja moglo zauvek da izumre, ili će im se to ubrzo desiti, zbog te naše nemarnosti. Ima tu jedna kvaka koje su ljudi sve više svesni, a to je da uništavajući okolinu oko nas, uništavamo sebe same. A možda će nam u tome pomoći naš najfantastičniji izum: robot.

ROBOTI

Pojam robot se shvata na dva načina: kao humanoid i kao automat.  

Pojam humanoid datira od pre nešto više od dve i po hiljade godina, od Pandore i Ilijade. I još ranije, egipatske, vavilonske, pa čak i sumerske legende od pre pet hiljada godina su na glini upisivale slike postojanja takvog bića – čovekolikog boga. Jedna varijacija na tu temu je ideja Golema, koja se vezuje za praški geto iz 16. veka. Znate ona voštana figura koja, kada joj se udahne život, postane korisna, ali destruktivna. Golem je bio značajan predak Meri Šelijevog Frankenštajna: modernog Prometeja (1818).  I od tada, od same ideje humanoidnog predmeta, on se češće vezuje za uništenje, nego za napredak.

Sada je već dovoljno očigledna činjenica da se reč „robot“ prvi put pojavila u književnosti, a ne u tehnici. Poreklom je iz slovenskih jezika gde „rabota“ znači rad, a „rabotnik“ radnik. Karl Čapek u svojoj drami R.U.R: Rozumovi univerzalni roboti, iz daleke 1920, uvodi reč „robot“ i  prikazuje de facto jednu legendu: rabin Judel koristi čovekoliku figuru, Golema, podređuje je svojoj vlasti i koristi njegove lične snage. Nakon toga, nadolazi poplava reči „robot“ u književnoj literaturi zvanoj fantastika. Isak Asimov uvodi reč „robotika“ 1939. i prvi ozbiljnije uzima u obzir strah od njenog razvoja. Asimov predstavlja tri osnovna zakona robotike naširoko poznata kao Asimovljevi zakoni robotike.

ASIMOVLJEVI ZAKONI ROBOTIKE

Nepoznanica, nizvesnost, nepredvidivost poznati su kao izuzetni pokretači tog negativnog osećanja kod ljudi koje se javlja u nekoliko formi: strah, panika, užas. I kada ta vrsta osećanja dominira čovekom, on skoro uvek donosi negativne odluke. Razvoj tehnologija, a posebno ispitivanja veštačke inteligencije, navode na pomisao: ukoliko je verovatnoća da se čovek negativno ponaša tako velika, kolika će biti ta verovatnoća kod isprogramirane humanoidne mašine?!

Da bi se ta verovatnoća smanjila, potrebno je da se za to stvore uslovi. Kod ljudi, zakon je tvorevina koja treba da garantuje određeno ponašanje. Otuda je Isak Asimov pokušao da  očuva čovekovu nadmoć nad robotima i istovremeno onemogući upotrebu robota u zle svrhe.  U čuvenoj naučnofantastičnoj noveli Ja, robot, iz 1942, definisao je tri zakona robotike:

Prvi zakon: Robot ne sme da povredi čoveka ili da svojom neaktivnošću dozvoli da čovek bude povređen.

Drugi zakon: Robot mora da izvršava naređenja koja mu daju ljudi, osim kada su takva naređenja u sukobu sa Prvim zakonom.

Treći zakon: Robot mora da štiti svoju egzistenciju sve dok takva zaštita nije u sukobu s Prvim i Drugim zakonom.

Vremenom, kako su njegovi zakoni postali primenjivi u svetu naučne fantastike, ali i problematizovani u realnosti, Asimov je dodao i nulti zakon, koji kaže: Robot ne sme da ugrozi čovečanstvo, ili da svojom neaktivnošću dozvoli da čovečanstvo bude ugroženo.

Ovim zakonima, robot je izašao iz oblasti književnosti i stavljen je na treću poziciju kada je reč o njegovoj zaštiti, što bi trebalo da garantuje da se robota ne treba bojati ni u realnosti. Takođe, mnogo je primera u fantastici gde su roboti pregoreli u situacijama u kojima su morali da biraju između jednog od tih zakona.

Svaka dalja rasprava o validnosti ovih zakona, njihovim problemima i ostalim polemikama na tu temu, nužno će nas odvesti u srž stvari, a to je: pitanje etike. Najčešće pitanje kada je o robotima reč jeste pitanje – ko stoji iza njih? Ko donosi odluku o tome na koji način će se ove sofisticirane mašine upotrebljavati i u koje svrhe? Sve su to pitanja koja ćemo pre čuti na nekoj naučnofantastičnoj konvenciji, nego u laboratoriji u kojoj se zapravo kreiraju roboti. Pogledajmo kakva je trenutna situacija na tom planu.

AUTOMATI

Automati, druga forma robota, u bukavlnom značenju su „samopomerajuće stvari“, koje su dugo fascinirale ljude. Rani modeli su bili zavisni od poluge, točkova, ili hidraulike. Primarna svrha automata je bila zabava pre nego neki koristan rad. Iako su mnogi paterni bili korišćeni, oduvek je najviše oduševljavao onaj automat koji je ličio na čoveka. Tokom dvadesetog veka, nekoliko novijih tehnologija je pomerilo automate u sferu rada.  A kakva je danas percepcija robota i da li se razlikuje od stvarnosti, saznali bismo ukoliko bismo sproveli anektu među slučajnim prolaznicima. Verovatno bismo dobili sledeću sliku stvari: jedna grupa malo starijih prolaznika bi percepirala robote kao ona dva primerka iz Ratova zvezda, koji spašavaju princeze po svemiru. Druga, malo mlađa grupa, na pomisao o robotu pomislila bi na Terminatora, dok bi najmlađi videli robota kao Asimo.

Međutim, ukoliko bismo danas sve prave robote poređali u jednu kolonu, videli bismo da se 90 % njih nalazi u fabrikama i da služe za proizvodnju. Industrijski roboti su mašine koje prosto neke stvari prave bolje od nas. Broj robota u svetu raste onako kako raste cena ljudskog rada. Kako je jedan menadžer iz Dženeral motorsa šaljivo rekao, kada cena ljudskog rada postane za jedan dolar skuplja po satu, hiljadu novih robota postaje ekonomično. Roboti, dakle, proizvode materijalnu vrednost i stvaraju profit. Takođe, koristimo ih kada su poslovi koje treba obaviti izuzetno monotoni, odnosno nezdravi za čoveka.

 

Realnost, dakle, pokazuje da ljudi prave mašine kojima usavršavaju svoj rad. Jedina bojazan je da bi mogli da nam zauzmu potencijalno radno mesto. Ali ni za to ne bi trebalo preterano brinuti. Dovoljno je da se oslonimo na ljudsko majstorstvo kreacije i nova polja ljudskog rada će ubrzo biti otkrivena. To je svakako zabavnija tema za razmišljanje od one apokaliptične i univerzalno zabrinjavajuće: o uništenju čovečanstva.

podeli
povezano
Tvorac Sretenjskog ustava
Asteroid Dejvid Bouvi