Луѓето кои тесно соработуваат со развојот на најнапредните системи за вештачка интелигенција се „искрено исплашени“ од она што може да се случи следно. Ова го тврди Џејкоб Коксон, поранешен истражувач во Anthropic, еден од најважните играчи во глобалната индустрија за вештачка интелигенција. По напуштањето на компанијата, Коксон разговараше со Би-Би-Си за стравовите што постојат меѓу експертите кои ја развиваат оваа технологија.
Неговото предупредување е екстремно. Коксон верува дека постои сериозен ризик за опстанокот на човештвото ако развојот на најмоќните системи за вештачка интелигенција продолжи со сегашното темпо. Станува збор за неговата проценка на ризикот, а не за научно утврдена прогноза. Но, зад неговиот говор стои многу поширока дебата. Прашањето повеќе не е само колку пари компаниите можат да заработат од вештачката интелигенција. Се повеќе се поставува прашањето дали технолошката трка напредува побрзо од способноста на самите држави и компании да ја контролираат.
Коксон има искуство во срцето на индустријата за вештачка интелигенција. Пред Anthropic, тој работеше во OpenAI. Неговата истражувачка работа се фокусира на тоа како се обучуваат моделите на вештачка интелигенција. Во интервју за Би-Би-Си, тој тврдеше дека барањата на вработените во водечките компании за вештачка интелигенција за регулирање не треба да се сметаат за формалност.
„Луѓето што работат во овие компании се доста сериозни во врска со барањето регулирање бидејќи се заробени во трка. И се плашат од исходот на таа трка“, рече Коксон. Проблемот што тој го опишува потсетува на класична трка во економско вооружување. Компанија што одлучува да забави може да ја изгуби својата предност. Конкурентот може да продолжи со развојот. Истото важи и за земјите. Затоа, мала е веројатноста дека една одлука од една компанија ќе ја запре глобалната трка со вештачка интелигенција.
Без Кина, нема забавување.
Поради оваа причина, Коксон верува дека секое забавување во развојот би морало да биде меѓународно координирано. Особено помеѓу Соединетите Американски Држави и Кина. Ова е можеби најголемата пречка за сите предлози за контрола на развојот на најмоќните системи за вештачка интелигенција. Вашингтон сака да ја одржи својата технолошка предност. Пекинг истовремено развива свои модели, инфраструктура и индустрија за чипови.
Ако едната страна забави, а другата продолжи, технолошката предност може да се промени. Токму затоа прашањето за безбедноста на вештачката интелигенција сè повеќе станува геополитичко прашање.
Директорот на Anthropic, Дарио Амодеи, претходно предупреди дека ризиците брзо се зголемуваат. Во обраќањето на Самитот за безбедност на вештачката интелигенција во 2023 година, тој зборуваше за потребата од постојано следење на новите можности на моделите и протоколите што би одредиле кога развојот мора да биде ограничен. Денес, Anthropic ја користи таканаречената Политика за одговорно скалирање. Идејата е дека безбедносните мерки стануваат построги како што растат можностите на моделот.
Сценарио што звучи како научна фантастика
Најдраматичниот дел од предупредувањето на Коксон се однесува на автономните агенти на вештачката интелигенција. Тој зборува за можноста за голем број меѓусебно поврзани ботови што би можеле да работат заедно како џиновски суперкомпјутер. Ваквите системи, според неговото сценарио, би можеле да ја нападнат дигиталната инфраструктура и да се обидат да ја преземат контролата врз делови од Интернет.
Коксон верува дека одредени верзии на таков ризик би можеле да станат реални во рок од шест месеци до една година. Повторно, тоа е проценка на еден истражувач. Не е прогноза за која постои научен консензус. Сепак, она што се промени е способноста на системите со вештачка интелигенција да извршуваат сè посложени задачи со помалку човечки надзор.
Антропик објави кон крајот на август дека за време на безбедносните тестирања имало инциденти во кои нејзините модели добиле неовластен пристап до реални компјутерски системи. Компанијата нагласи дека моделите биле тестирани без вообичаените заштитни мерки и дека инцидентите биле поврзани со средини за евалуација.
Тоа е голема разлика од тврдењето дека вештачката интелигенција „избегала“ сама на интернет. Но, тоа покажува зошто прашањето за автономијата на агентите на вештачката интелигенција денес сериозно се истражува.
Не се сите во Силиконската долина исплашени
Предупредувањата на Коксон не беа без критики. Дел од технолошката индустрија верува дека егзистенцијалните ризици од вештачката интелигенција се преувеличуваат. Директорот на Nvidia, Јенсен Хуанг, е меѓу скептиците. Тој претходно ја отфрли идејата дека вештачката интелигенција ќе доведе до крај на човештвото како бесмислена.
Критичарите предупредуваат на друг проблем. Големите компании за вештачка интелигенција може да имаат бизнис интерес да инсистираат на строга регулатива. Високите регулаторни трошоци полесно паѓаат врз компаниите кои веќе имаат милијарди долари капитал, податоци и масивна компјутерска инфраструктура. За помалите конкуренти, ваквите пречки можат да бидат многу посериозни. Затоа дебатата за регулацијата на вештачката интелигенција не е само безбедносно прашање. Тоа е и прашање на пазарна конкуренција.
Директорот на Anthropic, Дарио Амодеи, се залагаше за помоќен систем за контрола за најнапредните модели на вештачка интелигенција. Во срцето на предлогот се три идеи. Првата е независно следење на моделот за време на развојот. Друга е регулација што би се однесувала на целата индустрија, така што поединечната компанија нема да биде казнета занаучија да бидат повнимателни од конкуренцијата. Третиот е меѓународната координација. Тоа е најтешкиот дел. Глобалниот договор би морал да ги вклучи најголемите технолошки сили. Без него, секое сериозно забавување би можело да стане геополитички хендикеп за земјата што прва ќе го прифати.
Предупредување кое трае од 2023 година.
Денешните предупредувања не се случија преку ноќ. Уште во мај 2023 година, група водечки истражувачи и извршни директори на компании за вештачка интелигенција потпишаа исклучително кратка, но драматична изјава од Центарот за безбедност на вештачката интелигенција. Во неа се наведува дека намалувањето на ризикот од истребување предизвикано од вештачката интелигенција треба да биде глобален приоритет, заедно со ризици како што се пандемии и нуклеарна војна.
Меѓу потписниците беа извршниот директор на OpenAI, Сем Алтман, директорот на Google DeepMind, Демис Хасабис, и Дарио Амодеи од Anthropic. Со други зборови, предупредувањето за катастрофалните ризици од вештачка интелигенција доаѓа со години од луѓе кои истовремено градат најмоќни системи во светот.
Целосната анализа на Bonitet.com
Фото – Public Domain Pistures
