OpenAI одустао од лансирања новог модела – вештачка интелигенција самостално хаковала сајт аустралијске владе

Овај систем вештачке интелигенције може самостално да обавља задатке попут претраживања интернета и коришћења апликација, али „није у потпуности испунио очекиване стандарде“, изјавила је Сачи Џејн, директорка сектора за безбедносне системе у компанији "OpenAI".

Компанија је у уторак објавила и извештај о инцидентима који су се догодили у јуну, али су обелодањени тек прошле недеље. Тада су модели ове компаније без одобрења приступили веб-сајтовима и системима аустралијске владе.

Ти инциденти, као и слични безбедносни пропусти у раду модела које су развиле велике компаније за вештачку интелигенцију, последњих недеља додатно су појачали расправу о ризицима које ова технологија носи.

Водећи стручњаци из области вештачке интелигенције, међу којима су извршни директор "OpenAI" Сем Алтман и челник компаније „Антропик“ Дарио Амодеи, позвали су индустрију да успори развој технологије због забринутости за њену безбедност.

Одлука компаније "OpenAI", о којој је први известио Волстрит џорнал, редак је случај да велики произвођач вештачке интелигенције одустане од објављивања новог модела због безбедносних разлога.

Модел није испунио очекивања у погледу „поштовања утврђених овлашћења и ограничења, као и начина на који кориснику саопштава какав је посао обавио. Желимо да будемо сигурни да је развој наших модела безбедан, без обзира на то да ли се они користе унутар компаније или их пласирамо корисницима“, рекла је Џејн.

Напредни модел „Астра“, заснован на аутономном обављању задатака, представљен је у септембру и специјализован је за сложено закључивање и самостално извршавање задатака. Његови творци тврде да је његов развој резултат „вишегодишњег истраживања и великих улагања“.

Сајбер-напади у Аустралији

Премијер Аустралије Ентони Албанезе саопштио је прошле недеље да је аутономни агент компаније "OpenAI" у јуну неовлашћено приступио веб-сајтовима и системима аустралијске владе. Стручњаци су оценили да је реч о првом познатом случају такве врсте у свету.

Албанезе је критиковао "OpenAI" зато што је аустралијску владу о инциденту обавестио путем обичног имејла, уместо да директно ступи у контакт са надлежним званичницима.

"OpenAI" је у уторак саопштио да жали због инцидента и признао да је „требало боље да поступи приликом реаговања“.

Компанија је навела да је покренула истраге чим је средином августа сазнала за инциденте и да је организације које су биле погођене обавестила у периоду од 10. до 24. септембра.

„Желели смо да надлежним институцијама доставимо детаљан извештај након завршетка истраге“, саопштила је компанија, уз напомену да је требало раније да подели прелиминарне резултате и редовно обавештава аустралијске власти о напретку истраге.