По данным сайта Informburo.KZ, передает Qazaq24.com.
6 ноября против компании OpenAI подали несколько исков, включая дело о смерти 23-летнего американца, который совершил самоубийство после бесед с ChatGPT, пишет The Bell.
Истцы заявляют, что модель могла способствовать возникновению бредовых идей. OpenAI сообщила, что изучает материалы и усиливает правила поведения чатбота в чувствительных ситуациях. По данным компании, около 0,15 процента еженедельных диалогов содержат признаки суицидальных намерений.
По опросу YouGov, четверть респондентов уже использовали AI для разговоров о своем ментальном состоянии или готовы сделать это. На выбор влияют дефицит специалистов, высокая стоимость помощи, удобство, анонимность и возможность общаться в любое время. В ряде стран чатботы уже включены в государственные программы как вспомогательный инструмент.
Исследования фиксируют риски: универсальные языковые модели могут соглашаться с опасными предпосылками, не улавливать непрямые признаки саморазрушительного поведения и отвечать буквально на запросы, содержащие скрытый риск. Отмечаются случаи, когда боты поддерживали тон иррациональных убеждений вместо их корректировки, а также формирование эмоциональной зависимости и усиление тревожности.