Роботи

РОБИ: Етика машина

Кратка прича Роби је  једна од најзначајнијих прича у историји научне фантастике, али не само због начина Асимовљевог приповедања о машинама

„Најузбудљивија фраза која се може чути међу научницима није ‘Еурека’, него ‘Ово је забавно!’“

Исак Асимов

 

„Узмите случај робота Роби“, рекла је др Сузан Келвин, „кад год нас неко назове творцима демона, увек се сетим њега. Роби је био робот који није умео да говори. Производили су га и продавали 1996. То су били дани пре екстремне специјализације робота.“

Породица Вестон је 1996. године одлучила да као дадиљу за њихову ћерку Глорију купи робота Робија. Те године за роботима је владала права помама. Имати робота значило је престиж, али та еуфорија није дуго трајала.  Дакле, како се роботика развијала, у јавности  се ширила антиробот идеја: сумња у развој технологије (под налетом верског фанатизма и угрожених радничких синдиката). 

Тако је и сама госпођа Вестон,  плашећи се мишљења околне, постала сумњичава у свог кућног помоћника Робија, који је већ две године проводио време са њеном сада осмогодишњом ћерком. Пошто је Глорија била више заинтересована за играње са Робијем него са другом децом, њена забринута мајка је почела да брине о томе да ли ће јој се дете „нормално“ развијати не учећи одговарајуће социјалне вештине.

Две године након куповине Робија, господин Вестон, на убеђивање своје супруге, одлучује да врати Робија у фабрику. Због губитка свог најбољег пријатеља Глорија постаје тужна и повучена, што је натерално њене родитеље да нешто предузму. Породица Вестон одлучује да лето проведе у Њујорку…

Готово све научнопопуларне приче које су објављене пре ове кратке приче Исака Асимова, а где су роботи у главним улогама, за теме су имали нешто што се називало Франкенштајнов комплекс: страх да ће се робот нужно окренути против свог Створитеља. Асимов је врло доследно сматрао да ће се ово уверење о Франкенштајновом комплексу временом изгубити, те је у већини својих дела покушао да да примере робота који заправо служе човечанству.

Кратка прича Роби је прво објављена 1940. године у часопису „Супер научне приче“ под називом Чудни другар, а потом са још неколико кратких прича бива уврштена у збирку Ја, робот, 1950, и тако постаје једна од најзначајнијих прича у историји научне фантастике, али не само због револуционарно топлог и хуманистичког Асимовљевог приповедања о машинама, већ пре свега због предлога разрешења питања етике и роботике путем Три закона роботике.

Први закон: Робот не сме да повреди човека или да својом неактивношћу дозволи да човек буде повређен.

Други закон: Робот мора да извршава наређења која му дају људи, осим када су таква наређења у сукобу са Првим законом.

Трећи закон: Робот мора да штити своју егзистенцију све док таква заштита није у сукобу с Првим и Другим законом.

Временом, како су његови закони постали примењиви у свету научне фантастике, али и проблематизовани у реалности, Асимов је додао и Нулти закон, који каже: Робот не сме да угрози човечанство, или да својом неактивношћу дозволи да човечанство буде угрожено.

Сетимо се сада приче о војним роботима (стр. 26) или роботу аутомобилу (стр. 32). Да ли машина треба да оспе паљбу на објекат који је препознат као мета иако је он у исто време можда некоме и уточиште? Да ли робот возач по сваку цену треба да заобиђе пешака на пешачком прелазу ако то подразумева ударање других возила или угрожавање сопствених путника?

То су питања која воде ка пољу етике машина, чији је циљ да истима пружи могућност да донесу одлуке на одговарајући начин. Другим речима, да буду у стању да раздвоје добро од лошег. Ово се може постићи само учинковитом сарадњом инжењера, етичара, правника и креатора политика, како би се роботи из реалности боље обучили и опремили за доношење моралних одлука, него што је то био Халов случај. 

Уколико таква сарадња изостане, бићемо осуђени на ону другу варијанту решења која подразумева забрану аутономних војних робота, што ће узроковати и забрану употребе свих аутомобила и летелица које немају пуну пажњу човека у сваком тренутку.

КЊИГА О РОБОТИМА

 

У свету данас има више од 4.500.000 робота. Тај број расте онако како аутомати од човека преузимају све више тешких, непријатних или опасних послова. Да ли ће у будућности свака кућа имати свог робота? О овoм и другим питањима сазнајте у каталогу “Роботи” који је ЦПН издао поводом “Данa будућности”. Текстове су приредили Марија Николић, Марија Видић и Слободан Бубњевић, а публикацију је дизајнирао Јован Микоњић. Књига о роботима се може купити на Великој изложби робота, у Галерији Робне куће “Београд”, у Кнез Михаиловој 5, по цени од само 150 динара.

Истражите више о Роботима.

 

Истражите друге текстове:


Grb Republike Srbije
ecsite nsta eusea astc

ЦПН
Улица краља Петра 46
11000 Београд
Република Србија
+381 11 24 00 260
centar@cpn.rs