Антропик обуставља нове алате ВИ због забринутости владе САД за безбедност

У саопштењу објављеном на веб-страници компаније, „Антропик“ је навео да му је наређено да суспендује могућност да страни држављани користе програм Клод Фејбл 5 (Claude Fable 5), програма који је компанија сама описала као „превише моћан“.

„Коначни ефекат ове наредбе је да морамо одмах да онемогућимо Fable 5 и Mythos 5 за све наше кориснике како бисмо осигурали усклађеност са владиним захтевима“, навели су из компаније.

„Антропик“ и Трампова администрација још увек воде судски поступак по тужби због наредбе да се забрани владиним агенцијама коришћење њихових алата вештачке интелигенције.

Клод Фејбл 5 је верзија „Антропиковог“ Клод Митоса, програма вештачке интелигенције који је конкурент „Опен АИ”-вом ChatGPT-у и Гугловом Џеминију.

„Антропик“ напомиње да америчке националне безбедносне власти нису навеле конкретне разлоге за забринутост.

„Наше разумевање је да влада верује да је постала свесна методе заобилажења, односно 'џејлбрејковања' Фејбла 5“, додаје се у саопштењу.

Џејлбрејковање је процес заобилажења софтверских ограничења осмишљених да заштите сајбер мрежу, омогућавајући хакерима приступ осетљивим информацијама или деблокирање функција.

„Прегледали смо демонстрацију ове специфичне технике која се користи за идентификацију малог броја раније познатих, мањих рањивости“, истичу из „Антропика”.

„Све ове рањивости делују релативно једноставно и открили смо да их и други јавно доступни модели могу открити без потребе за заобилажењем.“

Пре објављивања Клод Фејбла 5, компанија је рекламирала разне „заштитне мере“ које је имплементирала како би спречила сајбер хаковање.

Финансијски, технолошки и владини лидери изразили су забринутост због јавног објављивања новог модела, после тестног објављивања у априлу за преглед и проверу рањивости унутар сопственог система.

„Антропик“ је навео да је омогућио приступ пре објављивања за неколицину организација јер је алат толико интелигентан да би могао бити опасан због своје способности да искористи или хакује рачунарске системе.

Компанија је сама прогласила да је Фејбл 5 „превише моћан“ пре него што је јавно објављен, што су неки критичари довели у питање као преувеличану рекламу и маркетиншки трик.

„Фејблове могућности превазилазе могућности било ког модела који смо до сада учинили јавно доступним“, тврде у „Антропику".

„Антропик“ се недавно нашао на мети Трампове администрације

Доналд Трамп је јавно критиковао компанију, а тадашњи амерички министар одбране, Пит Хегсет, назвао ју је „ризиком по ланац снабдевања“ – први пут у историји да је нека америчка компанија јавно добила такву ознаку.

Ознака значи да алат или услуга нису довољно безбедни за употребу у влади и историјски су резервисани за компаније са седиштем у земљама са којима су САД у сукобу.

„Антропик“ је тужио Пентагон после ове ознаке. Амерички судија је пресудио да се директива Пентагона не може спровести, што значи да владине агенције и организације које раде са америчком војском могу и даље користити „Антропикове“ алате док се судски процес наставља.