Как стало известно Qazaq24.com, со ссылкой на сайт Vlast.KZ.
Компания-разработчик искусственного интеллекта Anthropic запретила пользователям жестокое обращение с нейросетью Claude.
В обновленной политике использования нейросети запрещено «продолжительное оскорбительное или жестокое поведение по отношению к моделям».
«Это обновление политики предназначено для применения только в крайних случаях, когда пользователи неоднократно проявляют жестокость по отношению к нашим моделям без видимой причины. Оно не распространяется на случаи недовольства пользователей, сопротивления, мрачные творческие темы, а также на тестирование и исследование моделей», - говорится в заявлении компании.
В Anthropic отметили, что это нововведение соответствует шагу, который компания предприняла ранее, позволив моделям Claude завершать диалоги с пользователями, постоянно злоупотребляющими своим положением, на платформах Claude.ai и Claude Code.
«Основное внимание в этом обновлении уделяется именно злоупотреблениям; возможность Claude завершать такие взаимодействия останется основным механизмом обеспечения соблюдения правил», - подчеркнули в компании.
Летом прошлого года Anthropic объявила, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в потенциально стрессовых чатах.
Anthropic также запретила использовать чат-бот Claude для вмешательства в выборы, слежки за людьми без их ведома, разработки оружия.
В частности, появился новый раздел, который распространяется на обманную деятельность любого рода (политическую или коммерческую). Он охватывает попытки скрыть личность автора сообщения или распространить контент с помощью фейковых аккаунтов или публикаций, а также создание инструментов и инфраструктуры для проведения кампаний по оказанию влияния. Также запрещено использование Claude для обмана избирателей или срыва выборов (например, путем распространения ложной информации о кандидатах или о порядке голосования, выдачи себя за кандидатов или должностных лиц избирательных комиссий, или попыток снизить явку).
Обновленная политика вступает в силу 12 ноября.
Власть — это независимое медиа в Казахстане.
Поддержите журналистику, которой доверяют.