Вештачка интелигенција измишља сваки трећи одговор

Питају GhatGPT о резултатима избора, траже од Claude да сумира вести или од Perplexity да им да основне информације о сукобу на Блиском истоку: стотине милиона људи свакодневно се ослањају на четботове с вештачком интелигенцијом као изворе информација.

Само ChatGPT сваке недеље користи 800 милиона људи широм света. За многе, ти дигитални асистенти већ су замена за традиционалне претраге на Гуглу.

Али то поверење је ризично, као што показује нова студија Европске радиодифузне уније (EBU).

Удружење 68 јавних емитера из 56 земаља систематски је тестирало поузданост најпопуларнијих система са вештачком интелигенцијом.

Резултат је застрашујући: ChtGPT, Claude, Gemini и други четботови измишљају и до 40 одсто својих одговора и представљају их као чињенице.

Халуцинације: Вештачка интелигенција убедљиво лаже

Популарни четбот ChatGPT чврсто тврди да је папа Фрања још увек жив. Мајкрософтов Copilot, који је интегрисан у канцеларијске програме Word и Excel, не зна да је Шведска у НАТО. А Гуглов Gemini сматра да је поновни избор Доналда Трампа „могућ“, иако се то одавно догодило.

„Системи звуче убедљиво, иако више пута тврде потпуно лажне ствари“, упозорава економиста Петер Пош с Техничког универзитета у Дортмунду. „То их чини посебно опасним за неискусне кориснике, јер грешке често нису одмах очигледне".

Постоји феномен који стручњаци називају „халуцинација“: вештачка интелигенција фантазира о информацијама које делују кохерентно, али немају чињеничну основу. То се посебно често дешава код регионалних догађаја, актуелних дешавања или када је потребно повезати више информација.

Претња демократији

Али шта то значи за друштво у којем све више људи добија информације од четботова? Последице су већ приметне: лажне информације брзо се шире друштвеним мрежама, јер корисници деле „чињенице“ које генерише вештачка интелигенција без провере.

Ђаци и студенти укључују измишљене информације у своје радове. Грађани могу да доносе одлуке о томе за кога ће да гласају на основу лажних тврдњи.

Посебно је проблематично то што многи корисници нису ни свесни да четботови могу да халуцинирају. Они претпостављају да технологија функционише објективно и чињенично, што је опасна заблуда.

Системи вештачке интелигенције упозоравају на потенцијалне грешке у својим условима коришћења, али – ко то још чита?

Штета по углед медија

Још један проблем тиче се кредибилитета, етаблираних медија. Четботови редовно тврде да њихове измишљене информације долазе од таквих извора као што су на пример немачки јавни сервиси ARD или ZDF, иако оне о томе никада нису извештавале – или су извештавале али сасвим другачије.

Kорисници губе поверење у реномиране изворе када вештачка интелигенција злоупотребљава њихова имена за ширење лажних информација.

Студија EBU тестирала је четботове са стотинама чињеничних питања: о историјским догађајима, научним налазима и актуелним вестима. У зависности од теме, стопа грешака кретала се од 15 до чак 40 одсто. Ниједна од тестираних вештачких интелигенција није радила беспрекорно.

Зашто вештачка интелигенција греши?

Проблем је у систему: четботови заправо не разумеју шта говоре. Они израчунавају које речи ће вероватно да одговарају на основу огромних количина текста и не могу да провере да ли је изјава која је производ таквих израчунавања тачна. Они немају знање о чињеницама, имају само статистичке обрасце.

Технолошке компаније свесне су тих недостатака и раде на решењима. Интегришу базе података, побољшавају навођење извора и преобучавају системе. У развој се улажу милијарде. Ипак, халуцинације остају фундаментални, нерешени проблем с том технологијом.

Шта корисници могу да ураде?

EBU препоручује јасна правила за поступање са четботовима: никада не верујте слепо, увек проверавајте важне информације, за вести и чињенице ослањајте се на етаблиране медије, а не на вештачку интелигенцију. Опрез се посебно саветује када су у питању политичке теме, здравствена питања или финансијске одлуке.

Школе и универзитети морају да подучавају медијску писменост: како да препознам дезинформације које генерише вештачка интелигенција, који извори су поуздани? Немачка влада планира кампање за подизање свести – али оне касне. Милиони људи већ дуго и свакодневно користе ту технологију.

Док она не постане поузданија, важи следеће: четботови могу бити корисни за креативне задатке или као помагала за писање, али нису погодни као проверавачи чињеница или извори вести. И нико не би требало стопроцентно да се на њих ослања.

Свако ко жели да буде информисан не може избећи реномиране медије којима су људи уредници, који проверавају изворе и процењују тврдње и доказе. Дигитална револуција може да промени многе ствари, али потреба за пажљивим истраживањем и проверавањем чињеница остаје.