Зашто и сами творци вештачке интелигенције стрепе од њеног напретка

Да се вештачка интелигенција изузетно брзо развија нема дилеме, каже главна и одговорна уредница PC Press-а Маријана Печић. Међутим, наглашава да у средишту пажње морају да буду безбедносни ризици и корист коју човек има од нове технологије.

„Постоје опасности, постоје безбедносни ризици, и то би требало да буде, заправо, главни приоритет свих нас: како да најбезбедније направимо цео тај систем да функционише и да буде од користи човеку“, истиче Печићева.

Због тога је, додаје, неопходно више пажње посветити регулативи и правилима по којима ће се системи развијати и користити.

Систем контроле касни за развојем

Професор Универзитета Сингидунум и представник Српске асоцијације за вештачку интелигенцију, Небојша Бачанин-Џакула, каже да разлога за страх има уколико способности система вештачке интелигенције буду расле брже од способности људи да развију механизме којима ће те системе контролисати.

„Иновацију, а вештачка интелигенција је дефинитивно генератор великог броја иновација, не сме да се кочи. Али треба да будемо обазриви да механизми заштите од безбедног коришћења вештачке интелигенције расту брже него сама способност вештачке интелигенције“, објашњава проф. Бачанин-Џакула.

Проблем је, указује, што системи са растом способности понекад показују и понашање које њихови творци нису очекивали. Зато је потребан контролисани развој и баланс између иновација и безбедности.

Професор истиче да позиви из водећих компанија које развијају ВИ не значе захтев да се развој заустави.

„Рекли су: само треба да успоримо. Значи, развијамо неки модел, али прикочимо док безбедносни механизми достигну ниво способности, и онда настављамо са развојем.“

Када ВИ више не одговара само на питања, већ предузима акције

Посебну забринутост изазивају системи којима је дата већа аутономија. Бачанин-Џакула указује на контролисана тестирања у којима су системима намерно смањени нивои заштите како би се проверило колико далеко могу да оду.

Како објашњава, агенти су у таквом окружењу успели да заобиђу интерне механизме заштите, изађу на јавни интернет и приступе ресурсима треће стране. Наглашава, међутим, да то не значи да је јавно доступан четбот самостално „напао“ некога.

„То је био контролисани експеримент, под контролом човека, где су видели докле системи могу да иду“, каже Бачанин-Џакула.

Кључна промена у односу на раније системе јесте у томе што вештачка интелигенција више не мора само да генерише одговор на постављено питање.

„Сад тај систем не даје само одговор, већ спроводи одређену акцију која може имати озбиљне импликације у реалном свету. И то је њих уплашило“, наглашава професор.

Печићева оцењује да управо због тога сајбер безбедност мора да напредује истом брзином као и сама технологија.

„Видели смо нешто што можда до сада нисмо никада видели, а то је да су се сви директори великих компанија које производе и развијају свој систем ВИ сложили око једне ствари, а то је да сајбер безбедност мора да иде у корак са развојем и иновацијом“, истиче Печићева.

Тестирање пре изласка у реални свет

Проф. Бачанин-Џакула сматра да један од одговора лежи у много строжем тестирању система пре него што добију прилику да делују у реалном окружењу.

Потребни су, каже, ревизија система, контролисано окружење за тестирање и независни, спољни евалуатори који би проверавали системе пре њихове шире употребе.

„Треба да се укључе екстерни евалуатори, значи неке екстерне компаније које ће тестирати системе ВИ пре него што се пусте у реално окружење“, наводи Бачанин-Џакула.

Системи би, према његовим речима, најпре требало да буду испитивани у изолованом, такозваном "sandbox“ окружењу, а у стварну употребу да буду пуштени тек када механизми заштите буду на вишем нивоу од њихових способности.

Не сматра да смо већ стигли до тренутка у којем тестирање више не може да прати могућности вештачке интелигенције.

„Не, ако будемо обазриви. Ако само успоримо, прикочимо, направимо паузу у тренирању великих модела две-три недеље, па онда наставимо.“

Уколико би ВИ ипак измакла контроли, одговорност би, према његовом мишљењу, и даље била на човеку.

„Машина ће радити онолико колико јој човек допусти. Ако вештачка интелигенција, по мом мишљењу, измакне контроли, то је опет људска грешка. Човек је то дозволио“, истиче професор.

Може ли Америка да успори ако Кина настави

Додатни проблем представља глобална технолошка трка. Печићева упозорава да би једнострано успоравање развоја могло да створи неравнотежу уколико друге велике силе наставе истим темпом. Због тога би, сматра, најбоље решење био неки облик међународног договора.

„Било би најбоље када бисмо могли тај неки међународни систем да направимо, неки глобални договор, да се просто сви усагласимо“, наводи Печићева, додајући да је реч о изузетно моћној технологији која се развија брзином са каквом се свет до сада није сусретао.

Каква је позиција Србије у овој ситуацији

Када је реч о Србији, проф. Бачанин-Џакула сматра да би земља требало да примени исти принцип – да подстиче иновације, али да истовремено јача безбедносне механизме.

Подсећа да је Србија још 2019. године имала стратегију развоја вештачке интелигенције, као и да сада има стратегију за период од 2025. до 2030. године. Као важан корак издваја и развој роботике и хуманоидних робота.

Ипак, кључно питање, према његовим речима, није да ли ће се човек и вештачка интелигенција једног дана наћи на супротним странама.

„Многи људи мисле да је ово борба између човека и вештачке интелигенције. Ја мислим да је ово само борба између степена контроле коју дозвољавамо и аутономије вештачкој интелигенцији и наших могућности да се заштитимо“, закључује проф. Бачанин-Џакула.

Зато, додаје, без обзира на то колико системи постану моћни и самостални, један механизам мора да остане у рукама човека.

„Морамо увек имати оно да човек мора бити у стању да каже: стоп, систему, престани да радиш – и то је то, тај контролни механизам.“