Агентите со вештачка интелигенција се шират побрзо отколку што многу организации можат да ги видат или следат, а тој недостаток на видливост станува растечки бизнис ризик. Ова е токму најсериозниот сајбер предизвик што Мајкрософт го вклучи во својот последен извештај Cyber Pulse, кој дава конкретен увид во новите сајбер ризици што можат да се појават за време на секојдневното извршување на работните задачи.
Низ целиот екосистем на Мајкрософт, клиентите развиваат и распоредуваат агенти со вештачка интелигенција на сите клучни платформи, од Fabric и Foundry до Copilot Studio и Agent Builder, што одразува поголем потег кон автоматизација на работата базирана на вештачка интелигенција.
Создавањето агенти повеќе не е резервирано само за технички улоги, т.е. одделот за ИКТ. Денес, вработените на различни функции создаваат и користат агенти во нивната секојдневна работа. Податоците на Мајкрософт покажуваат дека повеќе од 80% од компаниите од Fortune 500 користат активни агенти изградени со алатки со низок код/без код. Како што распоредувањето на агенти се проширува и можностите за трансформација растат, сега е време да се воспостават фундаментални контроли.
Усвојувањето и употребата на агенти за вештачка интелигенција брзо расте на глобално ниво: Европа, Блискиот Исток и Африка сочинуваат 42 проценти од активните агенти за вештачка интелигенција, по што следат САД (29 проценти), Азија (19 проценти) и Америка (10 проценти).
Растот е најизразен во високо регулираните и оперативно сложени индустрии. По развојот на софтвер и технологија (16 проценти), производството учествува со 13 проценти од глобалната употреба на агенти за вештачка интелигенција, по што следат финансиските услуги (11 проценти) и малопродажбата (девет проценти). Во овие сектори, агентите за вештачка интелигенција сè повеќе се користат за давање предлози, анализа на финансиски податоци, тријажа на безбедносни предупредувања, автоматизирање на повторувачки процеси и откривање на информации со брзина на машината.
Извештајот предупредува дека брзото распоредување на агенти за вештачка интелигенција може да ги засени безбедносните и другите системи за управување, зголемувајќи го ризикот од вештачка интелигенција во сенка. Агентите со премногу овластувања или под влијание на погрешни влезни податоци, можат да бидат злоупотребени и да се претворат во ненамерни „двојни агенти“.
Исто како и човечките вработени, агентите за вештачка интелигенција имаат потреба од јасни улоги, ограничени привилегии и континуирано следење за да избегнат да станат ранливост. Според извештајот на Cyber Pulse, 29 проценти од вработените веќе користат неовластени агенти за вештачка интелигенција за извршување на работни задачи.
- Во Хрватска и низ целиот регион, агентите за вештачка интелигенција брзо стануваат дигитални колеги во секојдневните деловни операции. Но, без јасни правила, видливост и одговорност, тие можат да станат сериозен безбедносен ризик. Иновацијата и безбедноста мора да напредуваат со иста брзина. Организациите што ги применуваат принципите на Нулта доверба, целосна видливост и централизирано управување со агентите за вештачка интелигенција, како што прават со луѓето и системите, ќе го намалат ризикот, ќе ја зајакнат довербата и ќе бидат подобро позиционирани во споредба со конкуренцијата на сè повеќе регулираниот и дигитален европски пазар, па и пошироко – рече Томислав Врачиќ, регионален директор за технологија во Microsoft.
Според Индексот за безбедност на податоци на Microsoft, само 47 проценти од организациите имплементираат специфични безбедносни контроли за GenAI – што укажува на можност организациите да обезбедат потребна видливост за безбедно распоредување на вештачката интелигенција.
Управувањето со вештачката интелигенција не може да биде единствен домен на ИТ, ниту пак безбедноста на вештачката интелигенција може да биде единствена одговорност на Главниот директор за безбедност на информациите (CISO). Тоа е споделена одговорност што ги опфаќа правните, човечките ресурси, тимовите за податоци, деловното раководство и администрацијата. Кога ризикот од вештачка интелигенција се третира како клучен деловен ризик, заедно со финансискиот, оперативниот и регулаторниот ризик, организациите можат да работат побрзо и побезбедно.
Ова е исклучително важен период за она што Microsoft го нарекува „гранични“ компании, т.е. организации кои ги поместуваат границите и моментално користат вештачка интелигенција за модернизирање на управувањето, намалување на прекумерното споделување податоци и воведување безбедносни контроли што овозможуваат одговорно користење на вештачката интелигенција.
Извештајот Cyber Pulse заклучува дека безбедноста и иновациите не се спротивставени сили, туку меѓусебно се надополнуваат. Управувањето со квалитетот гради транспарентност, а транспарентноста станува клучна конкурентска предност.
Организациите кои дејствуваат сега ќе го намалат ризикот, ќе ја забрзаат иновацијата, ќе ја заштитат довербата на корисниците и ќе изградат отпорност во самата структура на нивните деловни системи управувани од вештачка интелигенција.
(Lidermedia)
Фото – Lawyermarketing
