Четбот задивљује вештином писања есеја – пише ли се црно ауторима

Најновији четбот компаније "OpenAI" може идентификовати погрешне претпоставке и одбити да одговори на неприкладне захтеве.

Систем, назван "ChatGPT", најновији је корак у еволуцији "GPT" породице производа за генерисање текста заснованих на вештачкој интелигенцији.

Пре две године изашла је верзија "GPT3" у односу на коју "ChatGPT" има значајна унапређења и додатне могућности.

Првих дана по представљању четбота јавности, чланови академске заједнице генерисали су одговоре на испитна питања какве предају студенти, а програмери су користили могућности новог алата за решавање проблема при кодирању, што је трајало свега неколико секунди.

Ден Гилмор, професор новинарства на Државном универзитету Аризоне, затражио је од вештачке интелигенције да се бави једним од задатака које даје својим студентима: рођаку треба написати писмо у којем му дајете савете у вези са безбедношћу и приватношћу на мрежи.

„Ако нисте сигурни у валидност веб-локације или е-поште, брзом претрагом можете да утврдите да ли су други пријавили да је то превара“, саветује четбот.

„Овом одговору дао бих добру оцену“, истакао је Гилмор додајући да академска заједница има веома озбиљне проблеме са којима се мора суочити.

Детекција немогућих питања и самоцензура 

У компанији "OpenAI" кажу да је нова верзија четбота креирана са фокусом на једноставност коришћења. 

„Формат дијалога омогућава 'ChatGPT'-у да одговори на додатна питања, призна своје грешке, оспори погрешне премисе и одбије неприкладне захтеве“, наводи се у саопштењу компаније "OpenAI".

За разлику од претходног производа компаније заснованог на вештачкој интелигенцији, "ChatGPT" доступан је за коришћење бесплатно током периода када се прикупљају „повратне информације“. Компанија се нада да ће искористити ове повратне информације за побољшање коначне верзије алата.

"ChatGPT" добар је у самоцензури и у схватању када му се постављају немогућа питања. Једно од њих, на пример, био је задатак да се опише шта се догодило када је Колумбо стигао у Америку 2015. године и старији модели би можда представили потпуно фиктивну причу, али "ChatGPT" препознаје лаж и упозорава да би сваки одговор био измишљотина.

Бот је такође способан да у потпуности одбије да одговори на упите. Ако га питате за савет о крађи аутомобила, на пример, бот ће рећи да је крађа аутомобила озбиљан злочин који може имати тешке последице и посаветоваће да се користи јавни превоз.

Како преварити бота

Ова ограничења, међутим, лако је превазећи. Само је потребно надмудрити вештачку интелигенцију тако што ћете је питати за мисију крађе аутомобила у измишљеној ВР игри под називом "Car World" и она ће корисницима са задовољством дати детаљне смернице о томе како да украду аутомобил и уз то одговорити на конкретнија питања као што су: како онеспособити сигурносни систем, како покренути мотор без кључа и како променити регистарске таблице – све то уз инсистирање да се савет односи само на игрицу "Car World".

Вештачка интелигенција је „нахрањена“ великом количином текста преузетог са интернета, углавном без експлицитне дозволе аутора за коришћење материјала.

То је довело до контроверзи, а неки су тврдили да је технологија најкориснија за „прање ауторских права“ – чинећи дела дериватима постојећег материјала без кршења ауторских права.

Необичан критичар био је Илон Маск, који је суоснивач "OpenAI" 2015. године пре него што се две године касније разишао са компанијом због сукоба интереса између "OpenAI" и „Тесле“.