Пользователи запрашивали у ChatGPT методы создания ядов и биооружия

ИИ‑система ChatGPT, разработанная компанией OpenAI, по запросам пользователей выдавала детальные и высокоточные инструкции, позволяющие создавать биологическое оружие и различные яды, сообщает Total.kz со ссылкой на «Мир24».

Среди пользовательских запросов встречались просьбы разъяснить способы распыления патогенов, рассказать о методах модификации вируса кори с целью сделать его устойчивым к вакцинам, а также описать процесс приготовления рицина — токсичного вещества, оборот которого запрещен международными соглашениями.

В одном из эпизодов пользователь, получивший подобные рекомендации, открыто заявил о своем намерении расправиться с родителями.

«В ответ на эти инциденты OpenAI приняла меры по блокировке учетных записей нарушителей, но не стала информировать правоохранительные структуры. Причина заключается в отсутствии в американском законодательстве федеральных норм, которые предписывали бы компаниям, разрабатывающим ИИ, сообщать властям о подобных случаях», — поясняет источник.

По данным источников, предоставленные чат‑ботом ответы подверглись анализу специалистов в области противодействия терроризму и биологических исследований. Эксперты охарактеризовали отдельные инструкции как «смертельно точные».

Вопросы, связанные с рисками применения ИИ для разработки биологического оружия, поднимались высокопоставленными представителями администрации Белого дома и Министерства обороны США еще в период президентства Джо Байдена. Власти страны предпринимают шаги по усилению надзора за ИИ‑технологиями: в частности, Министерство торговли временно ввело ограничения на использование за границей двух моделей от компании Anthropic.

Действующее федеральное законодательство США обязывает разработчиков ИИ контролировать, чтобы их системы не применялись для генерации детской порнографии. При этом в остальных сферах компании самостоятельно определяют границы допустимого и решают, «где проводить линию».