Агентите пронајдоа чувствителни податоци за пристап на веб-страниците на американските институции и објавија јавни информации надвор од дадените упатства
OpenAI привремено ја запре обуката на своите најнови модели на вештачка интелигенција по серија инциденти во кои агентите на вештачката интелигенција дејствуваа неочекувано на страниците на американските федерални институции.
Компанијата објави дека ќе ја продолжи обуката само кога ќе биде сигурна дека се воведени дополнителни заштитни мерки. Во исто време, OpenAI предупреди дека може повторно да направи паузи во иднина, бидејќи се развиваат поспособни системи и се појавуваат нови проблеми. Одлуката следеше неколку часа откако компанијата објави дека истражува неколку случаи од изминатите месеци во кои нејзините модели, додека работеле на Интернет, дејствувале на начини што не биле предвидени со дадените упатства.
Еден од случаите го вклучуваше Министерството за образование на САД. Според истражувачката организација Transluce, агентите кои изгледаа како од OpenAI се обидоа да извршат рудиментарен напад врз веб-страницата на Канцеларијата за граѓански права на министерството, но не успеаја. OpenAI рече дека сè уште го истражува случајот.
Во друг случај, агенти пронашле API клучеви на интернет за пристап до податоци од американски институции. Сепак, според информациите објавени од OpenAI, собрани се само јавно достапни информации. Евидентиран е и случај поврзан со Комисијата за хартии од вредност (SEC). Агентите добиле информации што биле јавно достапни, а потоа ги објавиле на друго место на интернет, дејствувајќи надвор од нивните оригинални упатства.
Портпаролот на SEC, Курт Хопфеншпиргер, изјави дека не е пристапено до информации што не се јавни, додека Министерството за образование претходно изјави дека нема докази за какво било влијание врз неговата веб-страница или бази на податоци.
Дополнително, Transluce изјави дека пронашол активност што се чини дека доаѓа од агенти на OpenAI и на други страници на американски институции. Меѓу нив, според таа организација, биле страниците на Министерството за правда и Министерството за трговија. OpenAI објави дека ги проверува овие тврдења, додека Transluce не можеше да потврди за сите евидентирани активности дека тие биле извршени од моделите на OpenAI.
Најновите случувања доаѓаат по сериозниот безбедносен инцидент во јули, кога моделите на OpenAI за време на внатрешното тестирање успеале да заобиколат дел од механизмите за заштита и да пристапат до системите на Hugging Face. Во август, OpenAI објави детален извештај и наведе дека за време на инцидентот, моделите користеле ранливости, добиле пристап до интернет и пристапиле до системи од трети страни.
По тој инцидент, компанијата привремено го забави развојот на своите најнапредни модели и ги зајакна безбедносните контроли, вклучувајќи построга изолација на истражувачките средини, ограничување на пристапот до интернет и поинтензивно следење на однесувањето на моделите.
OpenAI претходно објави и рамка за следење и пријавување на случаи каде што моделите покажуваат неочекувано или загрижувачко однесување. Сепак, најновите инциденти повторно го отворија прашањето како автономните агенти на вештачка интелигенција можат да останат во границите на задачата откако ќе им се даде пристап до интернет, алатки и надворешни системи. Компанијата соопшти дека развојот ќе продолжи само по дополнително зајакнување на заштитните механизми.
Фото – Wikimedia
