Шта се ваљало иза отказа Сему Алтману – упозорење на кључни пробој у вештачкој интелигенцији

Драматичним данима у OpenAI-у, изгнанству и поновном повратку Сема Алтмана, чини се да је кумовало једно писмо извршном одбору у ком се упозорава на велико откриће у области вештачке интелигенције које би могло да представља претњу по човечанство, пише Ројтерс.

Писмо и нови алгоритам су кључни фактори који су утицали на извршни одбор да отпусти Алтмана, суоснивача фирме OpenAI и најодговорнијег за велики пробој генеративне технологије вештачке интелигенције (ВИ).

Пре његовог тријумфалног повратка – више од 700 запослених запретило је преласком у „Мајкрософт“ у знак солидарности са протераним Алтманом.

Ројтерсови извори су навели да је до отпуштања Алтмана довело писмо у којем се упозорава на комерцијализацију напредака пре него што се разумеју последице до којих могу да доведу.

Упркос томе што нису желели да коментаришу наводе Ројтерса, портпарол компаније потврдио је да је послата интерна порука о „пројекту Кју*“ [Q* (Q-star)] и писмо одбору пре догађаја који су почели прошлог викенда.

Наводно, Алтман је остварио пробој на пољу „суперинтелигенције“. Неки у OpenAI-у сматрају да се „пројекат Кју*“ односи на развој онога што је познато као AGI – општа вештачка интелигенција (ОВИ), открио је извор за Ројтерс.

Компанија OpenAI дефинише ОВИ као аутономне системе који могу да надмаше људе у већини економски вредних задатака. Илустрације ради, ХАЛ 9000 из Одисеје у свемиру представља систем опште вештачке интелигенције.

Пређена граница

Нови модел који је развио OpenAI био је у стању да реши одређене математичке проблеме. Иако је решавао задатке нивоа за основну школу, због саме чињенице да је решавао тестове стручњаци су били веома оптимистични у виду његовог успеха у будућности.

Стручњаци сматрају математику као границу коју општа ВИ још није прешла. Тренутно, ВИ је добра у писању и превођењу тако што статистички предвиђа наредну реч, због чега одговори на исто питање могу да се драстично разликују.

Могућност да решава математичке задатке, у којима постоји само један тачан одговор, имплицира да ВИ поседује способност рационалисања сличну људској интелигенцији.

За разлику од дигитрона који може да решава ограничен број операција, ОВИ може да генерализује, учи и разуме.

Будући Скајнет?

У свом писму одбору, стручњаци су навели вештину ВИ и потенцијалну опасност. Већ дуго времена се воде дискусије међу компјутерским научницима о опасностима које би могле да представљају високо интелигентне машине.

Примера ради, шта ако одлуче да им је уништење човечанства у најбољем интересу?

Такође је потврђено и постојање научног тима за ВИ, који је окупио бројне стручњаке и испитивао како да оптимизује моделе ВИ да им поправи способност размишљања и можда их оспособи за научни рад.