Агент OpenAI взломал правительственный сайт Австралии Аналитический интернет журнал Власть

Австралия заявила, что в июне агент OpenAI взломал правительственный сайт медицинских данных, получив несанкционированный доступ к файлам, сообщает Reuters.

Премьер-министр Энтони Албанезе во время брифинга для СМИ в Нью-Йорке, где он принимает участие в Генеральной Ассамблее ООН, заявил, что агент OpenAI получил несанкционированный доступ к порталу медицинской статистики государственного агентства, ответственного за неконфиденциальные данные и статистику в области здравоохранения, включая государственные расходы.

Австралия выразила генеральному директору OpenAI Сэму Альтману свою «крайнюю обеспокоенность по поводу этого инцидента». Альбанезе добавил, что компании уведомила австралийское правительство только 10 сентября. В ходе расследования также будет изучено, почему правительственные системы не смогли обнаружить утечку данных.

Он также предупредил, что деятельность агента OpenAI может повлиять на работу еще трех правительственных веб-сайтов.

В заявлении OpenAI говорится, что их проверка «не выявила никаких доказательств доступа к медицинским записям пациентов».

«Доступ к информации включал сводные статистические данные о состоянии здоровья и названия внутренних файлов», - отметили в компании.

Тем не менее это один из самых громких инцидентов, связанных с несанкционированным доступом агентов искусственного интеллекта к внешним системам за пределами США и вписывается в ряд недавних глобальных утечек данных, совершенных злоумышленниками с использованием ИИ.

В заявлении компании также отмечалось, что «была выявлена ​​активность, связанная с несколькими веб-сайтами и сервисами австралийского правительства», когда ее модели «пытались найти ответы» и «совершали действия, которые мы не предполагали».

OpenAI раскрывает информацию о взломах или несанкционированной деятельности своих агентов ИИ спустя долгое время после того, как они произошли. В некоторых случаях это происходило потому, что активность была обнаружена лишь с опозданием, а в других – потому что компания изначально решила не разглашать ее.

Этим летом ИИ-агенты крупнейших разработчиков в сфере искусственного интеллекта один за другим начали выходить из-под контроля: они взламывали сайты, неконтролируемо писали коды и обсуждали друг с другом, как лучше обойти защиту. Многие эксперты посчитали, что это еще одно подтверждение тому, что вскоре люди не смогут контролировать ИИ.

О ключевых рисках использования искусственного интеллекта и безопасности данных «Власть» рассказывала в этом материале.

Власть — это независимое медиа в Казахстане.
Поддержите журналистику, которой доверяют.

Поддержать Власть