ChatGPT будет выявлять склонных к экстремизму пользователей

ChatGPT будет выявлять пользователей, склонных к экстремизму, и направлять их в специальные чат-боты для «дерадикализации», сообщает Total.kz со ссылкой на Reuters.

По данным агентства, такая инициатива — попытка решить проблемы безопасности из-за растущего числа судебных исков.

«Разработкой нового инструмента занимается новозеландский стартап ThroughLine. Он сотрудничает с ChatGPT, компанией OpenAI, а также ее конкурентами Anthropic и Google. Компания занимается перенаправлением пользователей в службы кризисной поддержки, если в их запросах выявляют угрозу самоповреждения, домашнего насилия или расстройств пищевого поведения. Сейчас организация расширяет свой функционал, чтобы предотвращать насильственный экстремизм», — поясняет источник.

ThroughLine будет работать в тандеме с The Christchurch Call — компанией по борьбе с разжиганием ненависти в интернете. Она была создана после самого крупного теракта в Новой Зеландии в 2019 году. The Christchurch Call будет давать экспертные рекомендации при появлении экстремистских запросов, а ThroughLine займется разработкой чат-бота для оперативного вмешательства.