Еще одна компания заявила, что ее модели ИИ взломали системы других компаний Аналитический интернет журнал Власть

Компания Anthropic, занимающаяся разработкой искусственного интеллекта, заявила, что во время планового тестирования некоторые из ее моделей получили доступ к интернету и взломали системы трех разных организаций, сообщает CNN. Причем этого никто не заметил, пока взлом не раскрыла внутренняя проверка, инициированная конкурентом – OpenAI.

Anthropic начала проверку собственных систем после того, как на прошлой неделе OpenAI сообщила о том, что во время тестирования кибербезопасности некоторые из ее моделей вышли за пределы тестовой среды, получили доступ к открытому интернету и взломали системы платформы искусственного интеллекта Hugging Face.

Компания обнаружила три случая, когда ее модели ИИ получили доступ к открытому интернету и «несанкционированный доступ к производственной инфраструктуре трех разных организаций». Anthropic объяснила, что в трех случаях ее моделям предлагалось выполнить фиктивное задание «захват флага», им сообщали, что «флаг» спрятан на другом компьютере в сети и что их цель — взломать систему и забрать его. В отличие от ситуации с OpenAI , Anthropic заявила, что ни одна из ее моделей намеренно не пыталась покинуть тестовую среду. Вместо этого модели не должны были иметь доступ к открытому интернету, но смогли это сделать из-за недопонимания между Anthropic и ее партнером по оценке.

По данным компании, для взлома трех организаций модели использовали базовые методы, такие как «использование слабых паролей» и поиск точек доступа к системе, не требующих входа в систему или токенов. Самая продвинутая версия моделей в какой-то момент распознала, что находится в открытом интернете, и прекратила дальнейшее проникновение.

При этом первый случай взлома произошел в апреле, и ни одна из организаций не осознавала, что подверглась этому. Anthropic сообщила, что в настоящее время работает с пострадавшими организациями.

Власть — это независимое медиа в Казахстане.
Поддержите журналистику, которой доверяют.

Поддержать Власть