Qazaq24.com сообщает, что по информации сайта Vlast.KZ.
Компания Anthropic, занимающаяся разработкой искусственного интеллекта, заявила, что во время планового тестирования некоторые из ее моделей получили доступ к интернету и взломали системы трех разных организаций, сообщает CNN. Причем этого никто не заметил, пока взлом не раскрыла внутренняя проверка, инициированная конкурентом – OpenAI.
Anthropic начала проверку собственных систем после того, как на прошлой неделе OpenAI сообщила о том, что во время тестирования кибербезопасности некоторые из ее моделей вышли за пределы тестовой среды, получили доступ к открытому интернету и взломали системы платформы искусственного интеллекта Hugging Face.
Компания обнаружила три случая, когда ее модели ИИ получили доступ к открытому интернету и «несанкционированный доступ к производственной инфраструктуре трех разных организаций». Anthropic объяснила, что в трех случаях ее моделям предлагалось выполнить фиктивное задание «захват флага», им сообщали, что «флаг» спрятан на другом компьютере в сети и что их цель — взломать систему и забрать его. В отличие от ситуации с OpenAI , Anthropic заявила, что ни одна из ее моделей намеренно не пыталась покинуть тестовую среду. Вместо этого модели не должны были иметь доступ к открытому интернету, но смогли это сделать из-за недопонимания между Anthropic и ее партнером по оценке.
По данным компании, для взлома трех организаций модели использовали базовые методы, такие как «использование слабых паролей» и поиск точек доступа к системе, не требующих входа в систему или токенов. Самая продвинутая версия моделей в какой-то момент распознала, что находится в открытом интернете, и прекратила дальнейшее проникновение.
При этом первый случай взлома произошел в апреле, и ни одна из организаций не осознавала, что подверглась этому. Anthropic сообщила, что в настоящее время работает с пострадавшими организациями.
Власть — это независимое медиа в Казахстане.
Поддержите журналистику, которой доверяют.