Biblioteka

Dejvid Livit: O čoveku koji je previše znao

U novoj Biblioteci, čitajte o Alanu Tjuringu

Tekst: Dejvid Livit (odlomak iz knjige Čovek koji je suviše znao: Alan Tjuring i otkriće računara, Heliks, 2014)

Poput mnogih kasnijih Tjuringovih radova, „Inteligentna mašina“ je mešavina suvih tehničkih analiza i pasusa ispunjenih filozofskim, ponekad fantastičnim spekulacijama. Srž ovog rada je analiza verovatnoće „da se naprave mašine koje se ponašaju inteligentno“. Ali, pre nego što se upusti u razmatranje, Tjuring nabraja pet najverovatnijih primedaba na tu zamisao: „nerado priznavanje mogućnosti da čovečanstvo može imati takmaca u intelektualnim sposobnostima“; „religiozno verovanje da je bilo kakav pokušaj konstruisanja takvih mašina nekakva prometejska drskost“; „znatna ograničenost mašina koje su donedavno korišćene (na primer, do 1940)“, što je „pospešilo verovanje da su mašine nužno ograničene na ekstremno proste, moguće čak samo na zadatke koji se ponavljaju“; Gedelovo i Tjuringovo otkriće da „će svaka mašina u nekim slučajevima biti nesposobna da ponudi bilo kakav odgovor“, dok je „ljudska inteligencija izgleda kadra da se nosi s takvim problemima koji nadilaze metode dostupne mašinama“; poslednja primedba tiče se ideje da je „inteligencija mašine, ukoliko je ona može pokazati, ništa drugo do refleksija inteligencije njenog stvaraoca“.

Tjuring je svojom strategijom da započne rad kratkim pregledom kontraargumenata nagovestio stil u manifestima o pravima homoseksualaca iz pedesetih i šezdesetih godina u kojima se često kao okosnica odbrane koristilo pobijanje tradicionalnih argumenata protiv homoseksualnosti. On od samog početka shvata jalovost pokušaja da se fanatik odgovori od fanatizma, uz opasku da su prve dve primedbe „čisto emotivne, pa ih zaista nema ni potrebe opovrgavati. Ako čovek smatra da ih je nužno pobijati, može reći malo toga što bi imalo šanse da bude ubedljivo iako će, kada takve mašine stvarno počnu da se proizvode, to verovatno imati nekog efekta“. Treći prigovor pobija ističući da postojeće mašine, poput ENIAC-a ili ACE-a, „mogu da obave ogroman broj operacija (na primer, ACE može 1060000) bez ponavljanja, pod pretpostavkom da se ne pokvare“. S četvrtom primedbom se razračunava ponavljajući poentu predavanja koje je održao pred Londonskim matematičkim društvom: nepogrešivost nije nužan „uslov inteligencije“. Dodatno podvlači tu ideju navodeći anegdotu iz Gausovog života:

 Postoji priča da su od malog Gausa u školi tražili da sabere 15 + 18 + 21 + … + 54 (ili nešto slično) i da je on istog časa napisao 483, do čega je verovatno došao sledećom računicom: (15 + 54) (54 – 12) / (2 × 3). Može se zamisliti situacija da nepromišljeni učitelj kaže detetu kako je, umesto takvog postupka, trebalo da sabere 18 i 15 i dobije 33, zatim tome doda 21 itd. Sa izvesne tačke gledišta Gausova metoda bi bila ‘pogrešna’, uprkos očigledno inteligentnom rešenju. Možemo zamisliti i situaciju kad je deci zadato da obave više operacija sabiranja, pri čemu su prvih pet sabiranje brojeva koji rastu aritmetičkom progresijom, ali šesta je, recimo, 23 + 34 + 45 + … + 100 + 112 + … + 199. Gaus bi možda došao do rešenja kao da je u pitanju aritmetička progresija, ne primećujući da je deveti broj 112, umesto 111. To bi definitivno bila greška, kakvu manje inteligentna deca verovatno ne bi napravila.

 

Dakle, glavni element inteligencije je sposobnost učenja i to bi mašine morale pokazati kako bi zaslužile atribut inteligentnih. Stoga se četvrta primedba – da je inteligencija mašine tek refleksija inteligencije njenog stvaraoca – može pobiti ako se prepozna kako je ona istovetna sa „stanovištem po kome zasluge za otkrića učenika treba pripisati učitelju. U tom slučaju učitelj bi bio zadovoljan uspehom svojih obrazovnih metoda, ali ne bi polagao pravo na same rezultate, osim ako ih nije zaista on preneo učeniku“. S druge strane, za učenika se može reći da pokazuje inteligenciju samo ako odskoči od proste imitacije učitelja i uradi nešto istovremeno neočekivano i originalno, kao što je to uradio mali Gaus. Ali kakva mašina bi bila sposobna da uči na taj način?

Idući zaobilaznim putem do odgovora na to pitanje, Tjuring prvo deli mašine na kategorije. „Diskretnu“ mašinu definiše kao onu čija se stanja mogu opisati kao diskretan skup; takva mašina radi tako što prelazi iz jednog stanja u drugo. U „kontinuiranoj“ mašini stanja „čine neprekidnu mnogostrukost (engl. manifold), a ponašanje mašine se opisuje krivom na toj mnogostrukosti“. „Kontrolišuća“ mašina se „bavi samo informacijama“, dok je „aktivna“ mašina „namenjena postizanju vrlo određenog kontinuiranog efekta“. Buldožer je „kontinuirano aktivna“ mašina, baš kao što je telefon „kontinuirano kontrolišuća“. Za razliku od njih, ENIAC i ACE su „diskretno kontrolišuće“ dok je mozak „kontinuirano kontrolišući ali… vrlo sličan mnogo diskretnijoj mašini“. Iako je najveća verovatnoća da će „diskretne kontrolišuće“ mašine pokazati inteligenciju, „mozgovi su vrlo bliski ovoj kategoriji i čini se, imamo sve razloge da verujemo kako su mogli biti napravljeni tako da spadaju u nju, bez ikakve promene njihovih suštinskih osobina“.

Ovakva klasifikacija mozga kao neuronske mašine elegantno izokreće popularnu predstavu o računaru kao elektronskom mozgu, baš kao što Tjuringova suptilna upotreba „mogli biti napravljeni“ doprinosi tihom antihrišćanskom tonu – pošto prikazuje Boga kao izumitelja ili programera koji nije uspeo da napravi mozak ka „diskretno kontrolišući“ manje-više slučajan. Da je Bog bio malo pametniji, implicitno poručuje Tjuring, bolje bi napravio mozak.

Zaista, u ovom delu izveštaja, čoveku počinje da se čini kako Tjuring nije samo hteo da argumentuje kako je moguće načiniti inteligentne mašine, nego je namerio i da zbaci čovečanstvo s pijedestala. Izgleda da ga i ovde i inače nervira sklonost intelektualaca da automatski pripišu ljudskom umu svojevrsnu nadmoćnost, maltene samo na osnovu toga što je ljudski. Čak i nauka o robotici, o kojoj je govorio u Kembridžu pred Klubom za nauku o moralu, izvrgnuta je izvesnom podsmehu budući da ističe značaj modeliranja mašina po uzoru na ljudska bića: 

Značajan argument u prilog verovanju da je moguće napraviti mašine koje misle jeste činjenica da je moguće napraviti mašineriju koja oponaša bilo koji mali deo čoveka. Mikrofon koji imitira uvo i televizijska kamera kao imitacija oka opšta su mesta. Mogu se proizvesti i roboti na daljinsko upravljanje čiji udovi drže telo u ravnoteži pomoću servomehanizama… Mogli bismo da napravimo prilično verne električne modele koji bi kopirali delovanje nerava, ali to se ne čini mnogo smislenim. To bi bilo slično kao uložiti mnogo rada u automobil koji se kreće nogama umesto na točkovima kao inače.

A ipak, kakav bi bio rezultat da neko „uzme čoveka kao celinu i pokuša da zameni sve njegove delove mašinama“? Sudeći po sledećem opisu i scenariju, bilo bi to savremeno Frankenštajnovo čudovište:

Sadržao bi televizijske kamere, mikrofone, zvučnike, točkove, „servo-mehanizme za rukovanje“ i neku vrstu „elektronskog mozga“… Ako bi bio proizveden trenutno dostupnim tehnikama, taj objekat bi bio ogroman, čak i ako bi „mozak“ bio stacionaran, odnosno upravljao telom na daljinu. Da bi mašina imala šanse da sama otkriva trebalo bi joj dozvoliti da tumara naokolo a onda bi bila ozbiljno opasna po običnog građanina. Osim toga, čak i kada bi se ispunili svi navedeni uslovi, to stvorenje ipak ne bi imao nikakav kontakt sa hranom, seksom, sportom i mnogim drugim zbivanjima koja su važne ljudskim bićima. Stoga, iako ova metoda verovatno jeste „siguran“ način da se proizvede mašina koja misli, čini se da je previše spora i nepraktična.

Verovatno bi bilo bolje napraviti mašinu koja bi usluživala drugu mašinu: mozak bez tela, opremljen većinom organa koji mu omogućavaju da vidi, govori i čuje. Ali šta bi takva mašina radila? Tjuring nabraja pet mogućih primena. Mogla bi da igra igre (šah, bridž, poker itd.), uči jezike, prevodi s jezika, šifruje i dešifruje, i bavi se matematikom.

Ali, s vremenom se pokazalo da su računari vrlo nepodobni za učenje jezika. S druge strane, mogu biti vrlo dobri u igrama, kriptografiji i matematici – poeziji računarskog jezika. Međutim, ako treba da samostalno preduzmu neku od ovih radnji – igraju (pobede) u iks-oksu, generišu šifru koju je nemoguće razbiti ili izračunaju nule zeta-funkcije –  moraju se tome naučiti. A ko će ih naučiti? Kojim metodama će im „gospodari“ programirati sposobnost učenja?

Tjuringov odgovor na ovo pitanje (koje je i središnje pitanje rada o inteligentnim mašinama) govori koliko o njegovom obrazovanju toliko i o njegovoj sklonosti da ACE posmatra kao dete – i to britansko dete:

Pri vaspitanju deteta, umnogome se oslanja na sistem nagrađivanja i kažnjavanja, što sugeriše da bi trebalo biti moguće izvesti proces učenja pomoću samo dva unosa, jednim za „prijatno“ ili „nagradu“ (R) i drugim za „bol“ ili „kaznu“ (P). Mogli bi se osmisliti brojni sistemi „prijatnosti i bola“… Poticanjem prijatnosti učvršćuje se karakter, to jest sprečava se da se on promeni, dok stimulus bola remeti karakter, uzrokujući promenu ustaljenih osobina ili njihovo ponovno izlaganje nasumičnim varijacijama.

…Na kraju ovog izveštaja Tjuring piše da je mera kojom ćemo proceniti da ponašanje nekog entiteta pokazuje inteligenciju

određena koliko stanjem našeg sopstvenog uma i našom utreniranošću, toliko i osobinama predmeta našeg razmatranja. Ako smo u stanju da objasnimo i predvidimo njegovo ponašanje ili se čini da iza postupaka ne stoji nikakav plan, teško ćemo doći u iskušenje da mu pripišemo inteligenciju. Moguće je i to da jedan isti objekat jedan čovek smatra inteligentnim a drugi ne; drugi je tu prepoznao pravila ponašanja.

Da bi ilustrovao ovo gledište, on predlaže eksperiment, prethodnicu onog koji će kasnije postati poznat kao Tjuringov test. Dva prilično loša igrača šaha – A i C – smeštena su u odvojene prostorije između kojih je uspostavljen sistem komunikacije kako bi se prenosili potezi. Istovremeno, treći čovek – B – upravlja mašinom programiranom za igranje šaha. C igra ili sa A ili s mašinom kojom upravlja B. Hoće li pogoditi protiv koga igra? Tjuring misli da će prilično teško razaznati ko je ko i zaključuje uzgrednom napomenom da je u pitanju eksperiment koji je on i izveo. Međutim, ne iznosi rezultat nego završava izlaganje ali ostavlja brojna pitanja otvorena: da li se za mašinu, edukovanu kroz sistem nagrađivanja i kažnjavanja, može reći kako je u stanju da misli?

Da li dečji plač ili smeh otkrivaju iskru duše koja ih odvaja od mašina ili samo slede „pravila ponašanja“ s kojima mi, kao posmatrači, saosećamo jer su nam poznata? Ili, drugačije rečeno, možemo li se na pitanje da li računari misle zapitati da li ljudi računaju?

Dejvid Livit

Čovek koji je suviše znao (Alan Tjuring i otkriće računara)

Prevod: Katarina Ješić

Alan Tjuring je uspeo da premosti procep između raskošnog, nepoznatog i (za mnoge ljude) neupotrebljivog okruženja čiste matematike sa jedne strane i sveta u kojima je sposobnost mašina da množe velike proste brojeve, da obrađuju desetine hiljada kombinacija u nizovima slova ili da pomažu pri projektovanju mostova značila razliku između finansijskog uspeha ili propasti, a u pojedinim slučajevima između života i smrti. Pa ipak, bilo bi pogrešno tvrditi da je Tjuring na svoj posao gledao kao na dužnost; naprotiv, put od matematičke logike do izgradnje mašine bio je slučajan, a jedina mapa koju je koristio poticala je iz njegovog jedinstvenog, na neki način čudnog, ali u svakom slučaju ekscentričnog uma. Bio je sušta suprotnost „timskom čoveku“, a da je, u određenom smislu, bio „normalniji“, možda nikada ne bi postigao takve uspehe. Upravo mu je status potpunog autsajdera omogućio da načini kreativne skokove koji su obeležili njegov život i promenili svet.

Postavio je temelje modernog računarstva, bio pionir veštačke inteligencije, heroj Drugog svetskog rata iz senke čiji je rad na dešifrovanju nemačkih poruka u velikoj meri doprineo pobedi saveznika. Ipak, fama u vezi sa Tjuringovim hapšenjem i samoubistvom direktno je uticala na to da se godinama njegov doprinos razvoju modernog računara minimalizuje, a u određenim oblastima potpuno zanemari. Tek odnedavno i posthumno dobija zvanična priznanja koja je zaslužio. U njegovoj biografiji Čovek koji je suviše znao, autor Dejvid Livit istražuje njegov rad i vezu između Tjuringovog genija i kratkog, hrabrog života.

 

Istražite druge tekstove:


Grb Republike Srbije
ecsite nsta eusea astc

CPN
Ulica kralja Petra 46
11000 Beograd
Republika Srbija
+381 11 24 00 260
centar@cpn.rs