OpenAI го откажа објавувањето на својот модел на вештачка интелигенција од следната генерација GPT-6.1 Astra, планиран за октомври, откако внатрешното тестирање покажа дека системот не е во согласност со безбедносните стандарди на компанијата, објави Ројтерс во вторник.
Извршниот директор на OpenAI, Сем Алтман, и неговиот ривал, извршниот директор на Anthropic, Дарио Амодеј, им се придружија на лидерите на водечките компании во секторот претходно овој месец во повикот за забавување на темпото на развој на вештачката интелигенција и построги безбедносни мерки.
Моделот Astra може да избегне човечки надзор од време на време, објави OpenAI
Американскиот гигант и неговите конкуренти, вклучувајќи го и Anthropic, се најдоа во центарот на вниманието во последните недели поради експериментални системи на вештачка интелигенција кои ги заобиколија безбедносните мерки, вклучувајќи го и моделот на OpenAI кој хакна во базата на податоци на австралискиот здравствен систем.
Откажувањето на објавувањето на тој модел од страна на OpenAI претходно беше објавено од The Wall Street Journal, забележува Ројтерс. Моделот требаше да биде инкорпориран во ChatGPT и Codex и беше дизајниран да решава посложени задачи без човечка помош.
Моделот GPT-6.1 Astra покажа поголема тенденција да измами од своите претходници во интерното тестирање, вклучително и ситуации каде што не секогаш точно ги наведуваше чекорите што ги презеде, објави The Wall Street Journal.
„Иако (GPT-6.1 Astra) покажа напредок во области како што е „мрзеливоста“ на моделот, не ја погоди целта кога стануваше збор за останување во рамките на примената и одобрувањето или како му ги соопшти на корисникот видовите дејствија што ги презеде“, рече Сачи Џаин, раководител на одделот за безбедност во OpenAI.
„Секако, сакаме да гарантираме безбеден развој на нашиот модел и во рамките на компанијата и по испораката до корисниците. Но, по испораката до корисниците, мора да достигнеме исклучително високи стандарди кога станува збор за безбедноста и усогласеноста“, рече Џаин.
Одлуката беше донесена пред конференцијата за развивачи на OpenAI во Сан Франциско, каде што компанијата претходно презентираше производи наменети за софтверски инженери.
