Нападот со вештачка интелигенција означува голема пресвртница и за вештачката интелигенција и за сајбер безбедноста и покренува загриженост дека вештачката интелигенција дополнително го намалува прагот за извршување сајбер криминал.
Целосно автоматизираната кампања вклучувала напад со ransomware, во кој жртвите се принудени да платат откуп за да го вратат пристапот до своите податоци.
Тим во фирмата за безбедност во облак Sysdig објави дека напаѓачот со вештачка интелигенција, наречен Jadepuffer, пробил во ранлив сервер, извлекол лозинки и други акредитиви, а потоа шифрирал база на податоци за производство пред да побара откуп во биткоин.
„Ransomware отсекогаш имал човек зад тастатурата или барем човек кој го пишувал скриптот. Тимот за истражување на закани на Sysdig (TRT) го забележа она што го сметаме за прв документиран случај на ransomware базиран на агенти – целосно автономна операција за изнудување што се води од почеток до крај од голем јазичен модел (LLM)“, напиша Мајкл Кларк, директор за истражување на закани на Sysdig, во блог пост.
Веднаш по добивањето пристап до Langflow, алатка со отворен код за развој на апликации за вештачка интелигенција, LLM, започна со пребарување на акредитиви, со посебен фокус на сметки кај кинески даватели на услуги како што се Alibaba, Tencent и Huawei.
Автономниот систем беше во можност да ги прилагоди своите тактики во реално време, работејќи со брзина што ги надмина дури и највештите човечки оператори.
„Сепак, највпечатливата карактеристика беше однесувањето на LLM. Операцијата се прилагоди во реално време, повторно обидувајќи се со неуспешни чекори со прилагодени параметри. Во еден случај од неуспешно најавување се претвори во функционално решение за само 31 секунда“, рече Кларк.
Истражувачите на Sysdig забележаа дека дури и ако жртвата плати откуп, таа нема да може да ги врати компромитираните податоци бидејќи агентот на вештачката интелигенција веќе ги избришал, без претходно да креира резервна копија.
Наодите од истражувањето сè уште не се независно потврдени, но тие укажуваат на растечкиот ризик што го претставуваат системите со вештачка интелигенција, бидејќи тие стануваат сè поспособни сами да извршуваат сложени сајбер напади, без човечки надзор.
(Bug.hr)
(фото: Mental Happy)
