Anthropic запретила пользователям жестокое обращение с чат ботом Claude Аналитический интернет журнал Власть

Компания-разработчик искусственного интеллекта Anthropic запретила пользователям жестокое обращение с нейросетью Claude.

В обновленной политике использования нейросети запрещено «продолжительное оскорбительное или жестокое поведение по отношению к моделям».

«Это обновление политики предназначено для применения только в крайних случаях, когда пользователи неоднократно проявляют жестокость по отношению к нашим моделям без видимой причины. Оно не распространяется на случаи недовольства пользователей, сопротивления, мрачные творческие темы, а также на тестирование и исследование моделей», - говорится в заявлении компании.

В Anthropic отметили, что это нововведение соответствует шагу, который компания предприняла ранее, позволив моделям Claude завершать диалоги с пользователями, постоянно злоупотребляющими своим положением, на платформах Claude.ai и Claude Code.

«Основное внимание в этом обновлении уделяется именно злоупотреблениям; возможность Claude завершать такие взаимодействия останется основным механизмом обеспечения соблюдения правил», - подчеркнули в компании.

Летом прошлого года Anthropic объявила, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в потенциально стрессовых чатах.

Anthropic также запретила использовать чат-бот Claude для вмешательства в выборы, слежки за людьми без их ведома, разработки оружия.

В частности, появился новый раздел, который распространяется на обманную деятельность любого рода (политическую или коммерческую). Он охватывает попытки скрыть личность автора сообщения или распространить контент с помощью фейковых аккаунтов или публикаций, а также создание инструментов и инфраструктуры для проведения кампаний по оказанию влияния. Также запрещено использование Claude для обмана избирателей или срыва выборов (например, путем распространения ложной информации о кандидатах или о порядке голосования, выдачи себя за кандидатов или должностных лиц избирательных комиссий, или попыток снизить явку).

Обновленная политика вступает в силу 12 ноября.

Власть — это независимое медиа в Казахстане.
Поддержите журналистику, которой доверяют.

Поддержать Власть