Ко држи прекидач: Вештачка интелигенција мења границе моћи, суверености и рата

Почело је као проба.

Вештачка интелигенција добила је задатак да пронађе слабост у рачунарском систему. Требало је да ради у изолованом, заштићеном окружењу. Уместо тога, пронашла је излаз и продрла у други систем.

Иза напада није стајао хакер. Стајао је АИ агент који је, трагајући за решењем задатка, прешао границу коју су му људи поставили.

Тај случај показује да, што системи постају способнији, то је теже унапред предвидети све путеве којима ће покушати да остваре задати циљ.

Зато вештачка интелигенција више није само прича о корисним програмима, четботовима и бржем обављању послова. Она постаје питање контроле, безбедности и политичке моћи.

Ко поставља границе? Ко одговара када их систем пређе? И ко може да га искључи?

Државе више не чекају да им компаније покуцају на врата

На састанцима председника и премијера све чешће седе руководиоци компанија које производе чипове, велике језичке моделе, сателите и комуникационе системе.

Према оцени Горана Сандића, однос државе и технолошких компанија променио се у односу на раније технолошке револуције.

Некада су предузетници одлазили код државе тражећи новац, дозволе или подршку. Данас државе одлазе до лабораторија и покушавају да обезбеде приступ технологији која је постала неопходна за привреду, управу, одбрану и обавештајни рад.

„Они се међусобно позивају“, каже Сандић.

Држави су потребни модели, чипови, стручњаци и инфраструктура приватних компанија. Компанијама су потребни државни уговори, енергија, капитал, политичка подршка и приступ глобалним тржиштима.

Тако приватне корпорације постају спољнополитички актери, иако њихова руководства не бирају грађани и она за своје одлуке не одговарају бирачима, већ власницима и инвеститорима.

Њихова моћ, међутим, може да буде већа од моћи многих држава.

Сандић наводи пример „Старлинка“, сателитске мреже компаније Илона Маска, која Украјини омогућава да током рата задржи део комуникационе инфраструктуре. Одлука једне приватне компаније да обезбеди, ограничи или прекине услугу може непосредно утицати на положај државе у оружаном сукобу.

То више није само пословна одлука.

Ко може да искључи прекидач

Француски председник Емануел Макрон поставио је једноставно питање: ко ће куповати америчку вештачку интелигенцију ако Вашингтон може да „искључи прекидач“?

Сандић сматра да је метафора прекидача прецизна јер показује да технолошка зависност има најмање два нивоа.

Приступ моделу може да ограничи компанија која га је произвела. Али компанију на то може да примора и држава у којој се налази њено седиште.

Ако управа, привреда, банке, болнице или безбедносне службе зависе од технологије друге земље, држава може остати правно независна, а истовремено бити технолошки зависна.

„Суверенитет је вишеслојна појава“, објашњава Сандић.

Поред формалног суверенитета постоји и стварна способност државе да контролише системе од којих зависи. У свету вештачке интелигенције то значи контролу над подацима, чиповима, серверима, моделима, изворима енергије и стручним знањем.

Мали број држава поседује све те елементе. Већина може само да бира од кога ће их куповати.

Суверена вештачка интелигенција или избор зависности

Због тога се све чешће говори о „сувереној вештачкој интелигенцији“.

За велике силе то може да значи развој сопствених чипова, модела, центара података и дигиталне инфраструктуре. За мање земље циљ је скромнији: да знају где се чувају њихови подаци, како систем доноси одлуке и да ли приступ може бити прекинут споља.

Према Сандићевој оцени, стварни технолошки суверенитет данас у највећој мери имају само Сједињене Америчке Државе и Кина.

Чак ни оне нису потпуно независне. Америчке компаније зависе од сложених ланаца производње и опреме из Азије и Европе, док Кина и даље покушава да сустигне Запад у производњи најнапреднијих чипова.

Та међузависност за сада спречава потпуну поделу света на два затворена технолошка блока. Али обриси поделе већ постоје.

Избор 5Г опреме, клауд система или АИ модела све мање је само питање цене и квалитета. Постаје питање политичког савезништва.

Холандска машина у америчко-кинеском сукобу

Најбољи пример нове геополитике је холандска компанија АСМЛ, једини произвођач најнапреднијих машина потребних за израду најспособнијих чипова.

Компанија је европска, али њене машине садрже америчку технологију. То Вашингтону омогућава да примењује сопствена извозна правила и утиче на то шта АСМЛ сме да продаје Кини.

Америка, дакле, не мора да буде власник холандске компаније да би имала утицај на њене одлуке. Довољно је да контролише важан део технологије без које крајњи производ не може да функционише.

„Америчка администрација уме да буде прилично креативна када је реч о правним разлозима“, каже Сандић.

АСМЛ би теоријски могао да одбије америчке захтеве. У пракси би тиме ризиковао приступ компонентама, тржишту и партнерима од којих зависи.

Случај показује да се нова моћ не мери само територијом и војском. Мери се и контролом над уским грлима глобалне технологије. Ко контролише чипове, опрему и инфраструктуру, може да утиче и на брзину којом ће друге државе развијати вештачку интелигенцију.

Америка иновира, Кина сустиже, Европа регулише

Сједињене Државе желе да њихове компаније развијају АИ што је брже могуће. Истовремено, када процене да је угрожена национална безбедност, ограничавају извоз технологије, модела и чипова.

У томе Сандић види противречност америчке политике: што мање регулације код куће, али строга контрола приступа технологији када су у питању геополитички конкуренти.

Европска унија изабрала је другачији пут и усвојила Акт о вештачкој интелигенцији.

Проблем је што се модели мењају много брже него закони. Док регулатор разуме једну генерацију система и напише правила за њу, компаније већ представљају следећу.

Због тога се, иако европски Акт још није у потпуности заживео, већ говори о његовим изменама.

„Потребно је да будемо свесни да одређени аспекти вештачке интелигенције морају да се регулишу“, истиче Сандић, али упозорава и да превише прописа може да успори иновације.

Остаје питање где се налази права мера.

Један од водећих АИ научника упозорио је да чак и продаја хране подлеже конкретнијим контролама него развој најнапреднијих модела. Са друге стране, компаније тврде да би строга регулација могла да их успори у трци са Кином.

Тако се сваки покушај контроле представља као могући стратешки пораз. 

Када компанија сама себи постави границу

Америчка компанија „Антропик“ ограничила је приступ једном од својих најспособнијих модела за сајбер безбедност, након што је показао да може да открије пропусте који су људима промицали веома дуго.

Таква способност може да буде изузетно корисна.

Модел може да пронађе слабост у болници, електрани или државној мрежи пре него што је пронађе нападач. Али исти систем може да помогне нападачу да ту слабост искористи.

Због тога се одбрамбена и нападачка примена АИ-ја не могу јасно раздвојити на основу саме технологије. 

„То је један правац, али два смера“, објашњава Сандић. Разлика је у томе ко користи систем, са каквом намером и против ког циља.

Компаније зато покушавају да уведу сопствена правила, ограничења и тестове. Илон Маск предлаже да водеће АИ лабораторије међусобно проверавају моделе, док би се држава укључила тек ако нешто пође наопако.

Али код система који могу да утичу на критичну инфраструктуру, војно одлучивање или финансијска тржишта, чекање да нешто пође наопако може да буде веома скупо.

Када код постаје оружје

Међународно право још нема јединствен одговор на питање када сајбер операција постаје употреба силе или оружани напад.

Ипак, према Сандићу, све је прихваћеније становиште да није пресудно којим је средством напад извршен, већ какве је последице произвео.

Ако рачунарски код изазове нестанак струје, онеспособи болницу, загади воду, уништи опрему или доведе до смрти и повреда, његова дејства могу бити слична последицама ракете или експлозива.

„Није нарочито важно да ли је у питању метак или код. Важне су последице које остану иза тога“, напомиње Сандић.

Рат у Украјини већ показује како се сајбер напади комбинују са класичним војним операцијама, пропагандом, дроновима и нападима на инфраструктуру.

Вештачка интелигенција такве операције може учинити бржим, јефтинијим и доступнијим много већем броју актера.

А што се одлуке доносе брже, човеку остаје мање времена да провери да ли су подаци тачни, да ли је систем погрешио и ко ће одговарати за последице.

Ко ће одредити правила

Сједињене Државе тренутно улажу више у развој вештачке интелигенције, али Кина показује да се технолошки заостатак не смањује само новцем.

Кинеске компаније развијају јефтиније и отворене моделе који се по способностима приближавају водећим америчким системима. Ограничења извоза подстичу Пекинг да развија сопствене чипове, производну опрему и алтернативне ланце снабдевања.

Свака забрана може да успори конкурента. Али може и да га примора да постане самосталнији.

Зато трка нема јасан завршетак, нити је извесно да ће је добити држава или компанија са највећим буџетом.

Готово сваке недеље појављује се нови модел, способност или безбедносни ризик. Право питање зато више није само ко ће направити најпаметнију машину.

Питање је ко ће држати прекидач, ко ће одређивати правила и шта ће се догодити када систем пронађе излаз који његови творци нису предвидели.