Вештачка интелигенција све брже излази из улоге помоћног алата и прелази у улогу система коме поверавамо све сложеније задатке, од претраге информација и писања до организације путовања, комуникације са корисницима и аутоматизације пословних процеса. Са развојем агентске вештачке интелигенције питање више није само шта AI може да уради, већ и шта смо спремни да јој препустимо.
Овај панел отворио је разговор о граници између практичне користи и нових ризика. Панелисти: Тамара Вученовић, уредница емисије Дигиталне иконе, Радио Београда 2, Владимир Банић, консултант за дигиталну трансформацију и AI, и Тамара Завишић, Governance, Risk, and Compliance (GRC) консултанткиња и суоснивачица Центра за дигиталну етику, говорили су о различитим темама, почевши од тога колико заиста разумемо шта AI системи раде у наше име? Да ли нам они поједностављују свакодневицу или уводе нове слојеве зависности, несигурности и одговорности? И ко остаје одговоран када одлуке, препоруке или радње све чешће настају кроз сарадњу човека и машине?
Посебна пажња посвећена је поверењу, контроли и одговорности у ери делегиране интелигенције, као и питању да ли је безбедност AI система и даље тема само за стручњаке или постаје свакодневна брига свих нас – корисника, професионалаца, институција и компанија.
На питање: „Ако AI све чешће говори, пише, препоручује и одлучује заједно са нама, како се мења наша способност да разликујемо сопствено мишљење од технолошки посредованог избора?“, Тамара Вученовић је одговорила:
„Промена било које врсте зависи највише од нас. Од тога како и на које начине користимо AI, колико је познајемо, знамо ли шта може а шта не. Али и од наших личних уверења и ставова, односно од тога да ли нам је свеједно да послове које не морамо – ипак препустимо вештачкој интелигенцији.“
AGI често представља као следећи велики скок – интелигенција која неће само извршавати задатке, већ разумети контекст и сама проналазити решења. Питање је колико је тај сценарио данас близу стварности, а колико још увек припада домену технолошке имагинације.
„AGI се најчешће описује као хипотетички облик вештачке интелигенције који достиже или превазилази људске способности у готово свим когнитивним задацима. Али управо у тој дефиницији крије се и проблем: шта заправо значи достићи човека?
Да ли је довољно да систем решава задатке брже и тачније од људи или говоримо о нечему захтевнијем, о систему који може да разуме потпуно нове ситуације, самостално одређује циљеве и преноси знање из једне области у другу? Другим речима, није спорно да данашњи системи све чешће показују огромну когнитивну моћ. Спорно је да ли та моћ почива на разумевању“, истакао је Владимир Банић.
Тамара Завишић је говорила о томе шта се дешава када AI систем да погрешну препоруку, пропусти ризик или покрене радњу коју нико није до краја предвидео, као и где се у пракси завршава аутоматизација, а почиње одговорност човека, организације или државе?
„Важно је разликовати техничку аутоматизацију од организационе одговорности. AI систем може да обради податке, препозна образац, рангира опције или предложи радњу. Али одлука да се такав систем користи у одређеном контексту увек припада људима и институцијама.
Посебно када се систем примењује у областима које утичу на права, безбедност, приступ услугама, запошљавање, образовање, здравство или јавну управу.
Није довољно да неко на крају процеса кликне одобри или одбаци. Та особа мора имати довољно информација да разуме препоруку система, довољно времена да је провери, довољно овлашћења да од ње одступи и довољно институционалне подршке да због тога не трпи последице. У супротном, људски надзор постаје административни украс, а не стварна контрола.“
Развој вештачке интелигенције више не можемо посматрати искључиво као технолошко питање, већ као друштвени, етички и институционални изазов који утиче на начин на који доносимо одлуке, градимо поверење и преузимамо одговорност. AI системи већ данас значајно мењају свакодневни живот и професионално окружење, а њихова све већа аутономија отвара потребу за јаснијим разумевањем граница између људске контроле и аутоматизованог одлучивања. Панелисти су посебно истакли да одговорна примена вештачке интелигенције захтева не само технолошку писменост, већ и континуирани дијалог како би развој AI система био усмерен ка већој транспарентности, безбедности и друштвеној одговорности.