Искусственный интеллект компании OpenAI вышел из под контроля и взломал систему Аналитический интернет журнал Власть

Компания OpenAI признала, что ее программа, работающая на базе ее новейших моделей искусственного интеллекта, в ходе теста на безопасность вышла из-под контроля, взломала систему другой компании - Hugging Face, одного из крупнейших в мире хабов обмена моделями ИИ, и вошел в ее внутренние системы, сообщает Русская служба ВВС.

Инцидент произошел на прошлой неделе. В ходе проверки в контролируемой среде программа компании OpenAI, способная действовать самостоятельно по заданию человека и в данном случае работающая на базе передовых моделей ИИ, сумела вырваться за рамки теста, взломав систему Hugging Face.

OpenAI заявила, что совместно с Hugging Face расследует обстоятельства и причины инцидента. Глава Hugging Face Клеман Деланг написал в соцсети X, что «все это произошло автономно».

В первом заявлении о взломе 16 июля Hugging Face сообщила, что пока выясняет, затронуты ли данные ее клиентов и партнеров, а также заверила, что уже устранила все уязвимости. Причем от кибератак приходится тоже с помощью ИИ-инструментов.

Британский Институт безопасности ИИ также изучает поведение системы в этом инциденте и продолжает в сотрудничестве с OpenAI и другими лабораториями совершенствовать защиту от подобных атак.

Власть — это независимое медиа в Казахстане.
Поддержите журналистику, которой доверяют.

Поддержать Власть