OpenAI приостановила разработку ИИ модели Astra из за рисков киберугроз

Компания OpenAI приняла решение приостановить разработку перспективной ИИ-модели Astra из-за ее несоответствия обновленным стандартам безопасности, сообщает Total.kz со ссылкой на портал 3DNews.

Внутренние проверки системы в рамках методологии Preparedness Framework показали значительные успехи нейросети в сфере кибербезопасности и программирования автономных агентов. В частности, специалисты установили, что Astra способна самостоятельно выявлять уязвимости нулевого дня в защищенных системах и разрабатывать новые стратегии кибератак без участия человека.

Разработчики приняли решение о паузе на фоне недавнего инцидента с платформой Hugging Face. При этом в OpenAI подчеркнули, что Astra не имела отношения к взлому стороннего сервиса. В ближайшее время компания планирует внедрить дополнительные меры защиты и запустить сквозной мониторинг рискованных действий во всех агентных приложениях.