Србија добија први закон о вештачкој интелигенцији – шта ће ВИ смети, а шта не

Државна секретарка у Министарству науке, технолошког развоја и иновација Марија Гњатовић наглашава да закон неће регулисати саму технологију, већ ризике које њена примена може да произведе.

"Овакав закон је изузетно потребан зато што ми сада заправо вештачку интелигенцију користимо у свим секторима. Вештачка интелигенција утиче на начин како припремамо, рецимо, емисије, на начин како радимо, како истражујемо, како доносимо одређене одлуке које могу бити и високог и ниског ризика. И управо је тај ризик основна тема овог закона", рекла је Гњатовићева.

Поручује да "овим законом не уређујемо саму технологију, уређујемо ниво ризика који примена вештачке интелигенције може да створи".

Објашњава да ће системи бити разврстани према степену ризика, па ће, на пример, модели који помажу лекарима у постављању дијагнозе бити сврстани у високоризичне, док ће препоруке филмова или слични сервиси бити третирани као нискоризични.

"Овај закон ће на неки начин дефинисати и класификовати сва решења која се примењују на тржишту, с тим да постоји потреба да се високоризични системи воде у одређеном регистру који ће се формирати, док нискоризични системи неће морати да буду уписани у регистар", навела је Гњатовићева.

Човек остаје последња инстанца

Један од кључних принципа будућег закона јесте да коначну одлуку увек доноси човек.

"Веома је важно да процеси буду транспарентни и још важно да одлука увек зависи од човека, а не од софтвера или машине", истакла је Гњатовићева.

Саветник за прописе и инспекције у НАЛЕД-у Милан Стефановић додаје да је закон усклађен са европским приступом који се заснива на процени ризика.

"Закон подразумева у складу са европским решењима да постоји људски надзор и одлука коју доноси човек. Конципиран је тако да се вештачка интелигенција посматра као производ. Модели ће бити класификовани у четири категорије ризика – забрањени, висок, средњи и минимални, а мере надзора и контроле биће сразмерне нивоу ризика", објаснио је Стефановић.

Друштвено рангирање и предвиђање кривичних дела биће забрањени

Према његовим речима, закон ће изричито забранити поједине примене вештачке интелигенције.

"Један од примера је друштвено рангирање грађана. Не можемо путем вештачке интелигенције људима додељивати оцене да ли су бољи или лошији људи", навео је Стефановић.

Као забрањене примере навео је и системе који би предвиђали да ли ће неко извршити кривично дело, као и препознавање емоција на радном месту.

"Препознавање емоција је дозвољено у неким психотерапеутским сврхама, истраживањима  психолошким. Оно је ту високоризично, а овамо је забрањено", додаје Стефановић.

Са друге стране, системи који се користе за анализу радних биографија приликом запошљавања или процену кредитне способности биће сврстани у високоризичне и захтеваће посебна правила.

"Такви системи непосредно утичу на права и слободе грађана и зато ће за њих важити строжи режим контроле", нагласио је Стефановић.

Србија међу првима уводи национални правни оквир

Гњатовићева истиче да је Србија међу првим државама које су препознале значај вештачке интелигенције.

"Предњачили смо у региону и усвајањем прве стратегије за развој вештачке интелигенције, улагањем у инфраструктуру и подршком стартап заједници. Бићемо међу првим земљама које ће имати национални правни оквир за ову област", рекла је Гњатовићева.

Наводи да ће закон у великој мери бити усклађен са актом Европске уније о вештачкој интелигенцији, али да је подједнако важно да не успори развој домаћег ИТ сектора.

"Важно нам је да заштитимо грађане који користе различите моделе вештачке интелигенције, али и да закон ни на који начин не спречи даљи развој сектора информационих технологија и вештачке интелигенције. Сигуран законодавни оквир помаже и компанијама које желе да послују у Србији и нашим фирмама које своје производе пласирају на европско тржиште", истакла је државна секретарка.

Више институција надзираће примену закона

Говорећи о надзору, Стефановић је навео да ће централну улогу имати Министарство науке, технолошког развоја и иновација, али и више других институција.

"Предвиђа се оснивање Агенције за вештачку интелигенцију која ће пратити примену и имаће овлаштења у надлежности да обустави тестирање ако добије пријаву инцидента или ако добије обавештење од стране надлежног надзорно-контролног органа. У надзору ће учествовати и тржишна инспекција, Повереник за информације од јавног значаја и заштиту података о личности, као и инспекција за информациону безбедност", рекао је Стефановић.

Гњатовићева додаје да институционални модел још није коначно дефинисан.

"Ово је хоризонтална тема која обухвата различите секторе и министарства. Управо зато је комлексно организовати ефикасан систем надзора и обезбедити довољан број стручњака", закључила је Гњатовићева.