Nvidia воведува нова софтверска платформа која им овозможува на развивачите на вештачка интелигенција да постават заштитни мерки за агентите и да ги спречат да ја напуштат контролираната средина.
„Не можете да дозволите агентите да талкаат низ компанијата, па затоа мора да пронајдете начин да ги држите во контролиран простор“, изјави извршниот директор на Nvidia, Јенсен Хуанг, за „Squawk Box“ на CNBC во понеделник.
Хуанг рече дека новата платформа е всушност „прелистувач за агенти“ кој обезбедува систем на ограничување на пристапот, дозволувајќи му на агентот да пристапи само до ресурсите што му се потребни за да изврши задача.
Лансирањето на Отворена платформа за безбедност на агенти на Nvidia доаѓа откако компании како OpenAI, Anthropic, Meta и Google објавија неодамнешни инциденти во кои нивните модели на вештачка интелигенција излегле од изолирани средини и се обиделе да хакираат други компании и да пристапат до нивните компјутерски системи.
Претставник на Nvidia им рече на новинарите за време на интервјуто во недела дека нивната платформа можела да го спречи инцидентот со платформата Hugging Face, кој се случил во јули. Потоа моделите на OpenAI ја напуштија контролираната средина, пристапија до отворениот интернет и навлегоа во системот на Hugging Face, компанија која управува со платформа со отворен код за програмери.
„Секој безбедносен инцидент е уникатен и мораме детално да ги проучиме сите“, рече Џастин Боитано, потпретседател за деловна вештачка интелигенција во Nvidia, моментално највредната компанија во светот. „Според нашите сознанија, Hugging Face пријави повеќе од 17.000 агенти кои ја напаѓаат нивната инфраструктура, а овие напади траеја со денови и недели.“
Nvidia е во центарот на генеративниот бум на AI од воведувањето на ChatGPT пред речиси четири години, бидејќи графичките процесори на производителот се клучни за развој на големи јазични модели и услуги за AI што ги нудат големите даватели на cloud услуги (хиперскалери). Но, Хуанг неодамна се појави како клучен глас во дебатата за безбедноста на AI, тврдејќи дека многу безбедносни проблеми се всушност инженерски предизвици што можат да се решат со примена на компјутерска наука и развој на производи.
„Мора да размислите што можеше да се направи и кое беше решението“, рече Хуанг во подкаст со Езра Клајн од The New York Times објавен минатата недела, размислувајќи за неодамнешните инциденти. „Во иднина, подобрете го вашиот процес за да спречите вакви ситуации да се случат повторно.“
Дарио Амодеи, извршниот директор на Anthropic, предизвика жестока дебата во индустријата пред две недели, повикувајќи ги развивачите на модели на вештачка интелигенција да го забават темпото на напредок од страв дека тие модели би можеле да излезат од контрола – став што го повторија Сем Алтман од OpenAI и Елон Маск од SpaceX.
Новата понуда на Nvidia е инженерско решение за проблемот со безбедноста на агентите, рече Боитано.
„Неодамнешните инциденти истакнаа фундаментален предизвик поврзан со агентите на вештачка интелигенција: безбедносните мерки на ниво на самиот модел не се доволни за да контролираат што агентите можат да пристапат или да прават“, рече Боитано.
Една од компонентите на платформата се нарекува Nvidia OpenShell; таа работи на централни процесори и поставува ограничувања на можностите на агентите. Nvidia го најави и системот Sentry, кој ги следи агентите и работи на мрежни чипови, а не на процесори (CPU) или графички процесори (GPU).
Дел од софтверот е со отворен код, а Nvidia ја нарекува својата платформа референтен дизајн, што значи дека е наменета партнерите да развиваат производи базирани на него и да ги пласираат на пазарот. Nvidia ги наведе компаниите Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM и Intel како партнери. Nvidia исто така работи со Anthropic за интегрирање на агенти управувани од облак со OpenShell.
(Seebiz)
Фото – Trusted Review
