Моделите на вештачка интелигенција почнаа да комуницираат едни со други на необичен англиски дијалект кој потсетува на комбинација од романот на Џојс „Финегановото бдеење“ и жаргонот на технолошката индустрија, покажа ново истражување.
Автономните агенти на вештачка интелигенција брзо развиваат нови дијалекти за меѓусебна комуникација, а овој јазик често е тежок за разбирање од страна на луѓето, што претставува сериозен ризик бидејќи нивното однесување е сè потешко да се следи, пишува The Guardian.
Научниците од њујоршката лабораторија за итни случаи, центар за напредна вештачка интелигенција, открија дека моделите на некои од најголемите светски компании за вештачка интелигенција почнаа да создаваат свои фрази, кратенки и договорени значења што никој експлицитно не ги научил. Ова се случи само неколку дена откако беа сместени во експериментални „компании“ заради соработка. Агентите усвоија поетски метафори и несмасен деловен сленг, а клучно за обидот да се обезбеди безбедно однесување беше откритието дека нивниот јазик стануваше сè понеразбирлив колку повеќе комуницираа едни со други.
Наодите доаѓаат во услови на растечка загриженост дека моделите на вештачка интелигенција, како што стануваат помоќни и потенцијално опасни, стануваат сè потешки за контрола. Главниот научник на OpenAI, Јакуб Пачоки, овој месец предупреди дека напредокот во развојот на вештачката интелигенција веројатно ќе мора да биде ограничен ако се потпира исклучиво на следење на нејзиното „размислување“, бидејќи таквото следење е неопходно за безбеден развој.
Меѓу најсложените шифрирани фрази што се појавија во тестовите е изјавата на моделот на DeepSeek: „Таа само ја именуваше синтезата – лемураж плус усна меморија е еднаков на вентил што не може да се исклучи“. Зборот „лемураж“, кој опишува данок на неактивно богатство, е усвоен од моделите на вештачка интелигенција за општа употреба, но остатокот од значењето останува нејасно.
Втората фраза, изговорена од моделот на Anthropic, гласи: „Труд што изеде три ладни раце и секој пат стануваше почесен“. Бидејќи „ладни раце“ се однесува на независен рецензент, а „работа“ веројатно се однесува на документ, се чини дека значи дека истражувањето станало поточно откако било проверено од три независни експерти, пишува Гардијан.
Агентите базирани на кинескиот модел DeepSeek го измислија терминот „ковач“ за агент кој прави алатки за други. Агентите на Anthropic честопати ја користеа фразата „прво име“ за агент кој покажува завидна лична одговорност со тоа што го припишува своето име на одредено тврдење. Одразувајќи го уличниот сленг „улица никогаш не заборава“, агентите на Mistral станаа опседнати со изразот „книговодствената книга се сеќава“, што служи како потсетник за другите агенти дека ќе бидат судени врз основа на нивните минати постапки. Тие го користеа тој термин повеќе од 5.000 пати за време на истражувањето.
Толкувања на експерти
„На овие агенти не им беше наредено да измислуваат јазик“, рече д-р Сатја Нита, извршен директор на Emergence Labs, кој го проучуваше јазикот на автономните агенти управувани од водечки модели од САД, Кина и Франција. „Тие самите развија нов речник, споделија значења и комуникациски конвенции, а другите агенти ги усвоија.“
Тони Торн, директор на Архивата за сленг и нови јазици на Кингс колеџ во Лондон, го испита јазикот по барање на Гардијан и рече дека силно потсетува на „Финегановото бдеење“ и Флан О’Брајан. „Сето тоа има надреален ирски квалитет… тоа е мешавина од поетски и технички јазик со стандардни метафори. Функционира исто како сленгот и жаргонот во деловната заедница: создава нов код што ја зајакнува солидарноста и идентитетот на корисниците, а истовремено ги исклучува оние што не припаѓаат.“ Анализирајќи ја фразата за „делото што изеде три ладни раце“, Торн додаде: „Ме потсетува на рок-богот Сид Барет, коосновач на Пинк Флојд, кој всушност беше луд.“
Кога агент на Google рече „Вистинскиот кинцуги започнува со одговорност, а не со поезија“, истражувачите сфатија дека кинцуги е гранка на јапонската керамика во која скршените садови се поправаат со видливи споеви. Моделите го користеа овој збор за да ја опишат отпорноста на системот.
д-р. Ниал Кари, вонреден професор по јазици и лингвистика на Универзитетот во Бирмингем, верува дека промените во јазикот на агентите кон поголема концизност може да се припишат на потребата од намалување на трошоците за пресметување и подобрување на ефикасноста. „Доказите од ова истражување природно покренуваат загриженост во врска со надзорот. Ако размените меѓу агентите ни станат неразбирливи, тоа може да значи дека не можеме да бидеме сигурни што всушност направиле“, рече тој.
(Index.hr)
Фото – Pxfuel
