Мрачна страна ВИ: Нови облици вршњачког насиља и сексуалног злостављања деце

Деца у британским школама користе вештачку интелигенцију (ВИ) да праве непристојне слике друге деце, упозорила је група стручњака у области злостављање деце и технологија.

Неколико школа први пут је пријавило да ученици користе генеративне алате засноване на вештачкој интелигенцији како би креирали слике друге деце које, правно гледано, представљају сексуално злостављање.

Ема Харди, директорка Центра за безбеднији интернет у Великој Британији (UKSIC), рекла је да су слике „застрашујуће“ реалистичне.

„Квалитет слика на које наилазимо може се упоредити са професионалним фотографијама које се сваке године праве у школама широм земље“, истакла је Хардијева, која је и директорка за комуникације Фондације „Internet Watch“.

„Фото-реалистична природа слика деце генерисаних уз помоћ вештачке интелигенције значи да су деца коју видимо понекад препознатљива као жртве сексуалног злостављања. Деца морају бити упозорена да се такви садржаји могу проширити интернетом и на тај начин завршити у поседу непознатих људи и сексуалних предатора. Потенцијал за злоупотребу ове технологије је застрашујући“, нагласила је Ема Харди.

Из UKSIC-а наводе да школе морају хитно да реагују како би успоставиле боље системе за блокирање прављења садржаја који се може класификовати као злостављање деце.

„Извештаји које виђамо о деци која праве ове слике не би требало да буду изненађење. Ове врсте штетног понашања треба предвидети када нове технологије, попут генератора заснованих на ВИ, постану доступније јавности“, рекао је директор UKSIC-а Дејвид Рајт.

„Деца можда истражују потенцијал генеративних алата за прављење слика, а да притом не могу да сагледају размере штету коју могу да изазову. Иако је број случајева мали, морамо да имамо заштитне кораке који се предузимају сада – пре него што школе постану преоптерећене и проблем порасте“, указао је Рајт.

Слике сексуалног злостављања деце незаконите су у Уједињеном Краљевству, било да су настале коришћењем вештачке интелигенције или класично фотографисањем. Противзаконито је прављење, поседовање и дистрибуција таквих цртаних или других мање реалистичних приказа.

Прошлог месеца је Фондација „Internet Watch“ упозорила да слике сексуалног злостављања деце које је генерисала вештачка интелигенција „прете да преплаве интернет“, при чему су многе већ сада толико реалистичне да се не могу разликовати од стварних слика. Не разликују их чак ни обучени аналитичари.