По материалам сайта Total.KZ, передает Qazaq24.com.
Внутренние тесты компании выявили высокие возможности нейросети в поиске уязвимостей нулевого дня.
Компания OpenAI приняла решение приостановить разработку перспективной ИИ-модели Astra из-за ее несоответствия обновленным стандартам безопасности, сообщает Total.kz со ссылкой на портал 3DNews.
Внутренние проверки системы в рамках методологии Preparedness Framework показали значительные успехи нейросети в сфере кибербезопасности и программирования автономных агентов. В частности, специалисты установили, что Astra способна самостоятельно выявлять уязвимости нулевого дня в защищенных системах и разрабатывать новые стратегии кибератак без участия человека.
Разработчики приняли решение о паузе на фоне недавнего инцидента с платформой Hugging Face. При этом в OpenAI подчеркнули, что Astra не имела отношения к взлому стороннего сервиса. В ближайшее время компания планирует внедрить дополнительные меры защиты и запустить сквозной мониторинг рискованных действий во всех агентных приложениях.