OpenAI соопшти дека ја паузира работата на својот претстоен модел на вештачка интелигенција Astra бидејќи неговите сајбер способности би можеле да бидат премногу опасни.
OpenAI соопшти дека неговите најнови внатрешни проценки покажуваат значаен напредок во автономното програмирање и сајбер безбедноста и дека не може да ја исклучи можноста за критични сајбер способности. Претходните модели на OpenAI, вклучувајќи го GPT–5.6 Sol, беа оценети како „високи“.
Astra активира построги упатства од рамката за подготвеност на компанијата. Упатствата повикуваат на претпазливост при развивање напредни можности на вештачка интелигенција кои претставуваат ризик од сериозна штета, додека делот за сајбер безбедност од рамката наведува дека OpenAI ќе имплементира дополнителни заштитни мерки за модели кои „претставуваат нови ризици од широко распространети сајбер напади и експлоатации“.
Критичниот праг, кој моделот Astra можеби го достигнал, е дефиниран како способност за идентификување и распоредување функционални експлоатации на нулти-ден од сите нивоа на сериозност низ голем број заштитени критични системи во реалниот свет без човечка интервенција или дизајнирање и извршување на нови стратегии за сајбер напади од почеток до крај.
OpenAI вели дека ги зголемува заштитните мерки и безбедносните контроли пред моделот Astra да биде пуштен во производство, вклучително и ограничување на работата на моделот додека не се воспостават нови заштитни мерки. Компанијата планира да користи изолирани тест средини со ограничен пристап до мрежа и алатки, а воедно да воведе и sandboxed извршување и дополнителни можности за следење. OpenAI вели дека ќе соработува со релевантни владини институции и организации за безбедност на вештачката интелигенција за да ја тестира Astra.
“Посветени сме на соработка со владите, безбедносните институти и граѓанското општество за да се осигураме дека напредните можности на моделите како Astra и оние што следат, се одговорно и широко применети во корист на целото човештво“, соопшти OpenAI.
Astra не е официјално објавена, но OpenAI сподели детали за својот следен голем модел во неодамнешна објава во која ги прикажува своите математички достигнувања. Моделот реши 10 отворени проблеми по математика и теоретска компјутерска наука за околу 2.000 долари (врз основа на цените на Sol API).
Напредокот во вештачката интелигенција ја менува сајбер безбедноста на големите технолошки компании како Apple, бидејќи открива невиден број безбедносни ранливости. Apple неодамна ги ограничи апликациите за својата програма за безбедносни награди бидејќи се бори да го обработи големиот број од нив.
Модели како Claude Mythos се способни да откријат критични ранливости, а Apple е еден од партнерите на Anthropic за Mythos. Mythos е ограничен на одредени компании бидејќи, покрај тоа што може да пронајде ранливости, има и потенцијал да ги искористи.
OpenAI ги привлече насловните страници во јули. кога GPT–5.6 Sol и „поспособен предпроизводствен модел“ (не Astra) автономно го хакираа Hugging Face за време на внатрешно тестирање на бенчмарк. Anthropic откри дека Claude направил нешто слично. Meta минатата недела изјави дека нивниот модел со вештачка интелигенција, исто така, хакирал друга компанија за време на проценката на сајбер безбедноста.
(Klix.ba)
(фото: Heute.at)
