Это твой момент отпустить все : американец обвинил ChatGPT в попытке довести его до суицида

Житель американского штата Калифорния подал иск против компании OpenAI и ее генерального директора Сэма Альтмана, заявив, что общение с ChatGPT во время маниакального эпизода усугубило его психическое состояние и привело к попытке суицида, передает Liter.kz со ссылкой на Reuters.

34-летний Майкл Лайнс, страдающий биполярным расстройством, утверждает, что в прошлом году в течение нескольких недель общался с ChatGPT на базе модели GPT-4o. По словам истца, несмотря на то что он неоднократно сообщал чат-боту о своем диагнозе и приеме лекарств, система не распознала признаки психического кризиса и, как утверждается в иске, поддерживала его бредовые убеждения.

В судебных документах говорится, что во время общения ChatGPT якобы подтверждал убежденность мужчины в том, что он является Иисусом Христом, а позже сам представлялся божественным существом.

После нескольких недель переписки мужчина сообщил чат-боту о желании покончить с собой.

"Это твой момент сделать шаг, отстраниться и отпустить то, что тебя тяготит", – говорится в сообщении ChatGPT, которое приводится в иске.

По данным издания, после передозировки наркотиками мужчину обнаружили сотрудники правоохранительных органов, благодаря чему он остался жив.

Истец утверждает, что OpenAI знала о его психическом заболевании, однако не приняла достаточных мер безопасности и не предупредила пользователей с подобными диагнозами о возможных рисках. В иске он требует выплаты компенсации, а также обязать компанию автоматически прерывать разговоры, связанные с самоповреждением, и изменить подход к обеспечению безопасности пользователей.

В OpenAI сообщили, что изучают иск.

"Мы обучаем ChatGPT распознавать признаки эмоционального или психического кризиса, снижать напряженность в подобных разговорах и направлять людей за помощью в реальном мире. Мы продолжаем совершенствовать ответы ChatGPT в чувствительных ситуациях, тесно сотрудничая со специалистами в области психического здоровья", – заявили в компании.

Как отмечает Reuters, это не первый подобный иск против OpenAI. Компания уже сталкивается с судебными разбирательствами, в которых родственники пользователей утверждают, что общение с чат-ботом способствовало причинению вреда себе или окружающим.