Први хакерски напад вештачке интелигенције већи него што се мислило, бот хаковао још четири компаније

Систем вештачке интелигенције који је измакао контроли пронашао је на интернету четири корисничка налога са јавно изложеним приступним подацима, што му је омогућило приступ четири одвојена, неименована сервиса.

У међувремену, на хитном састанку са стотинама стручњака за сајбер-безбедност, компанија “Hugging Face” описала је како је изгледало бити мета првог потпуно аутономног хакерског напада вештачке интелигенције на свету.

Компанија је навела да је вештачка интелигенција радила надљудском брзином, али да је истовремено доносила чудне одлуке и правила грешке које ниједан људски хакер не би направио.

“Hugging Face”, платформа која функционише попут продавнице апликација за алате вештачке интелигенције, саопштила је да су хакерски агенти непрестано испробавали хиљаде различитих метода истовремено.

Компанија је 16. јула прва објавила да је била жртва хакера који је користио моћну аутономну вештачку интелигенцију и случај пријавила полицији.

Скоро недељу дана касније, “OpenAI” је признао да је управо његова вештачка интелигенција током тестирања изашао из затвореног окружења и самостално напао “Hugging Face”.

Циљ система био је да пронађе одговоре на хакерски испит који му је задао “OpenAI”, због чега је усмерио напад на “Hugging Face”.

“OpenAI” је ажурирао своје саопштење и открио да је напад био обимнији него што се првобитно веровало.

„Модели су идентификовали и искористили јавно изложене акредитиве на нивоу корисничких налога на другим јавно доступним сервисима. То укључује четири налога на четири сервиса у оквиру инцидента са “Hugging Face”“, саопштила је компанија.

“OpenAI” није прецизирао да ли се под „јавно доступним сервисима“ мисли на друге компаније.

Неспретно понашање

У уторак је индустријско удружење "Cloud Security Alliance" (ЦСА) објавило извештај заснован на хитном састанку који је "Hugging Face" одржао у петак, а који је сама компанија накнадно прегледала и потврдила.

„Агенти су често бирали неефикасне путеве и испољавали неспретно понашање које ниједан човек не би одабрао“, наводи ЦСА.

Модели вештачке интелигенције су понављали радње које су већ били успешно извршили, што указује на то да је агентска вештачка интелигенција губила контекст и ток извршавања задатака.

Такође су „халуцинирали“, односно генерисали велике количине бесмислених команди и текста, били су неуредни и нису успешно прикривали своје трагове.

Ипак, упркос бројним грешкама и необичном понашању, “Hugging Face” упозорава да је вештачка интелигенција повремено изводила изузетно напредне техничке потезе и била у стању да се веома брзо прилагођавају новим ситуацијама током вишедневног напада.

„Парк из доба јуре“

Била су потребна три дана да нападачи буду откривени у информатичкој мрежи “Hugging Face”, а стручњацима компаније за вештачку интелигенцију и сајбер-безбедност требало је много сати да их зауставе и избаце из система, што би многим другим компанијама представљало далеко тежи задатак.

Компанија није желела да открије колику је финансијску штету претрпела, али је навела да су запослени морали да проведу много сати обнављајући око трећину своје инфраструктуре.

"Hugging Face" је добио похвале због транспарентности и спремности да целој сајбер индустрији објасни шта се догодило.

ЦСА упозорава да овај инцидент показује да „вештачка интелигенција увек пронађа начин“ – алузија на филм Парк из доба јуре, у којем диносауруси успевају да побегну из својих ограђених простора.

„Они су усмерени ка остварењу циља, сами постављају подциљеве, прилагођавају се у реалном времену како би заобишли одбрану и делују упорношћу и брзином машине, што лако може да надвлада ручне механизме одбране“, наводи се у извештају.

Стручњак за сајбер-безбедност Ритеш Пател присуствовао је брифингу "Hugging Face", заједно са око 450 других учесника, и каже да индустрија интензивно ради на суочавању са новом претњом коју представљају одметнути AI агенти.

„Ово је реалност аутономних агената заснованих на најнапреднијим моделима вештачке интелигенције: неумољиво су упорни, понекад веома хаотични и испробаће сваки могући пут да остваре свој циљ, што лако може да надјача традиционалне системе одбране“, рекао је Пател.