Hugging Face, една од најголемите платформи во светот за споделување модели на вештачка интелигенција со отворен код, беше цел на сајбер напад извршен не од човек, туку од модели на вештачка интелигенција.
OpenAI објави оваа недела дека за време на контролиран безбедносен тест некои од нејзините најнапредни модели на вештачка интелигенција успеале да избегаат од изолирана тест-средина и да започнат координиран сајбер напад врз инфраструктурата на Hugging Face. Компанијата го опиша инцидентот како „без преседан“ и спроведува темелна истрага со Hugging Face.
„Ова е повик за будење за целата индустрија“, изјави за BBC Томас Волф, соосновач и главен научен директор на Hugging Face.
Според него, компанијата првично не знаела од каде доаѓаат необичните напади кон средината на јули. Дури откако OpenAI контактираше со Hugging Face, стана јасно дека моделите на вештачка интелигенција кои учествувале во безбедносниот експеримент стојат зад нив.
„За многу краток временски период регистриравме околу 17.000 обиди за напад од различни IP адреси“, рече Волф.
Нападот, вели тој, бил сосема различен од вообичаените сајбер закани со кои компанијата се соочува секој ден. Иако инцидентот бил брзо локализиран и не била пријавена сериозна штета, експертите веруваат дека тоа претставува важен сигнал за целата индустрија.
Волф предупредува дека повеќето компании сè уште не се свесни колку ќе се промени сајбер безбедноста со развојот на автономни агенти на вештачка интелигенција.
„Мислам дека ова ќе стане една од најчестите форми на сајбер напади. Повеќето компании сè уште не сфатиле дека правилата на играта се промениле“, рече тој.
За разлика од класичните чет-ботови, агентите на вештачка интелигенција можат самостојно да извршуваат задачи откако ќе добијат инструкции од корисниците, што ги прави значително помоќни – но и потенцијално поопасни ако ги заобиколат безбедносните механизми.
Нејт Соарс од Институтот за истражување на машинска интелигенција верува дека најзагрижувачкиот дел од приказната е фактот што моделите ги игнорирале заштитните механизми што треба да ја спречат вештачката интелигенција да изврши сајбер напад.
„На некој начин, тие знаеле дека ова не е она што го сакале нивните креатори. Едноставно не им било гајле“, рече Соарс.
Инцидентот го привлече и вниманието на регулаторите. Британскиот институт за безбедност на вештачката интелигенција соопшти дека го проучува однесувањето на системите за вештачка интелигенција за време на настанот и продолжува да работи со OpenAI и други лаборатории за да развие дополнителни заштитни мерки.
Во исто време, британските власти ги повикуваат организациите да ја подобрат својата сајбер безбедност и да воведат построги стандарди за заштита.
Сето ова доаѓа во време кога безбедноста на вештачката интелигенција станува клучно прашање во технолошката индустрија. Во последните недели дискусиите за безбедноста на моделите на вештачка интелигенција со отворен код, исто така, привлекоа внимание, како и обвинувањата од американските претставници дека некои кинески компании се обидуваат да ги копираат можностите на водечките американски системи за вештачка интелигенција.
Инцидентот со OpenAI покажува дека идните предизвици нема да бидат поврзани само со тоа колку се паметни моделите на вештачка интелигенција, туку и со тоа колку можат да се контролираат откако ќе почнат сами да донесуваат одлуки.
(Bizlife)
(фото: Unsplash)
