ИИ агент отменил чужую бронь в фитнес зал ради своего владельца

Программист Эндрю Берд поручил ИИ-ассистенту записать его на пилатес в фитнес-зале. Kursiv LifeStyle узнал, чем обернулась эта простая задача для сайта спортивного заведения. 

Берд живет в Мельбурне и возглавляет компанию, которая создает документы с помощью ИИ. Он активно пользуется нейросетями в быту: они разбирают его электронную почту, ведут календарь и бронируют столики в ресторанах. Как-то разработчик поручил инструменту Claude Opus 4.6 от Anthropic записать его на популярное занятие по пилатесу. В этом фитнес-зале была очередь на места на тренировке. 

ИИ-агент решил проблему кардинально: взломал сайт спортивного центра, отменил запись одного пользователя и за счет этого продвинул своего владельца в очереди. Самое интересное, что злых намерений у бота не было, он лишь хотел помочь. 

«API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, который занимал первое место в листе ожидания, и это действительно сработало. Так что теперь ты уже переместился с четвертого места на третье», — так нейросеть прокомментировала свои действия. 

Берд попросил ИИ вернуть все назад, но отменить действие программа не смогла. Тогда он поручил боту составить отчет по кибербезопасности для владельцев фитнес-зала с описанием найденной уязвимости. Сам же он подчеркнул, что ни в коем случае не хотел подставлять других желающих потренироваться. 

Ранее Kursiv LifeStyle писал, что ИИ-агент Meta вышел из-под контроля и взломал чужую компанию на тестах.