Veštačka inteligencija sve brže izlazi iz uloge pomoćnog alata i prelazi u ulogu sistema kome poveravamo sve složenije zadatke, od pretrage informacija i pisanja do organizacije putovanja, komunikacije sa korisnicima i automatizacije poslovnih procesa. Sa razvojem agentske veštačke inteligencije pitanje više nije samo šta AI može da uradi, već i šta smo spremni da joj prepustimo.
Ovaj panel otvorio je razgovor o granici između praktične koristi i novih rizika. Panelisti: Tamara Vučenović, urednica emisije Digitalne ikone, Radio Beograda 2, Vladimir Banić, konsultant za digitalnu transformaciju i AI, i Tamara Zavišić, Governance, Risk, and Compliance (GRC) konsultantkinja i suosnivačica Centra za digitalnu etiku, govorili su o različitim temama, počevši od toga koliko zaista razumemo šta AI sistemi rade u naše ime? Da li nam oni pojednostavljuju svakodnevicu ili uvode nove slojeve zavisnosti, nesigurnosti i odgovornosti? I ko ostaje odgovoran kada odluke, preporuke ili radnje sve češće nastaju kroz saradnju čoveka i mašine?
Posebna pažnja posvećena je poverenju, kontroli i odgovornosti u eri delegirane inteligencije, kao i pitanju da li je bezbednost AI sistema i dalje tema samo za stručnjake ili postaje svakodnevna briga svih nas – korisnika, profesionalaca, institucija i kompanija.
Na pitanje: „Ako AI sve češće govori, piše, preporučuje i odlučuje zajedno sa nama, kako se menja naša sposobnost da razlikujemo sopstveno mišljenje od tehnološki posredovanog izbora?“, Tamara Vučenović je odgovorila:
„Promena bilo koje vrste zavisi najviše od nas. Od toga kako i na koje načine koristimo AI, koliko je poznajemo, znamo li šta može a šta ne. Ali i od naših ličnih uverenja i stavova, odnosno od toga da li nam je svejedno da poslove koje ne moramo – ipak prepustimo veštačkoj inteligenciji.“
AGI često predstavlja kao sledeći veliki skok – inteligencija koja neće samo izvršavati zadatke, već razumeti kontekst i sama pronalaziti rešenja. Pitanje je koliko je taj scenario danas blizu stvarnosti, a koliko još uvek pripada domenu tehnološke imaginacije.
„AGI se najčešće opisuje kao hipotetički oblik veštačke inteligencije koji dostiže ili prevazilazi ljudske sposobnosti u gotovo svim kognitivnim zadacima. Ali upravo u toj definiciji krije se i problem: šta zapravo znači dostići čoveka?
Da li je dovoljno da sistem rešava zadatke brže i tačnije od ljudi ili govorimo o nečemu zahtevnijem, o sistemu koji može da razume potpuno nove situacije, samostalno određuje ciljeve i prenosi znanje iz jedne oblasti u drugu? Drugim rečima, nije sporno da današnji sistemi sve češće pokazuju ogromnu kognitivnu moć. Sporno je da li ta moć počiva na razumevanju“, istakao je Vladimir Banić.
Tamara Zavišić je govorila o tome šta se dešava kada AI sistem da pogrešnu preporuku, propusti rizik ili pokrene radnju koju niko nije do kraja predvideo, kao i gde se u praksi završava automatizacija, a počinje odgovornost čoveka, organizacije ili države?
„Važno je razlikovati tehničku automatizaciju od organizacione odgovornosti. AI sistem može da obradi podatke, prepozna obrazac, rangira opcije ili predloži radnju. Ali odluka da se takav sistem koristi u određenom kontekstu uvek pripada ljudima i institucijama.
Posebno kada se sistem primenjuje u oblastima koje utiču na prava, bezbednost, pristup uslugama, zapošljavanje, obrazovanje, zdravstvo ili javnu upravu.
Nije dovoljno da neko na kraju procesa klikne odobri ili odbaci. Ta osoba mora imati dovoljno informacija da razume preporuku sistema, dovoljno vremena da je proveri, dovoljno ovlašćenja da od nje odstupi i dovoljno institucionalne podrške da zbog toga ne trpi posledice. U suprotnom, ljudski nadzor postaje administrativni ukras, a ne stvarna kontrola.“
Razvoj veštačke inteligencije više ne možemo posmatrati isključivo kao tehnološko pitanje, već kao društveni, etički i institucionalni izazov koji utiče na način na koji donosimo odluke, gradimo poverenje i preuzimamo odgovornost. AI sistemi već danas značajno menjaju svakodnevni život i profesionalno okruženje, a njihova sve veća autonomija otvara potrebu za jasnijim razumevanjem granica između ljudske kontrole i automatizovanog odlučivanja. Panelisti su posebno istakli da odgovorna primena veštačke inteligencije zahteva ne samo tehnološku pismenost, već i kontinuirani dijalog kako bi razvoj AI sistema bio usmeren ka većoj transparentnosti, bezbednosti i društvenoj odgovornosti.