Нейросеть Grok выбрала Илона Маска вместо спасения человечества

Искусственный интеллект Илона Маска Grok снова оказался в центре скандала, сообщает Total.kz со ссылкой на Hi-tech.

Чат-бот столкнулся с крайне неприятной задачей: выбрать между спасением Маска и гибелью миллионов людей.

Алгоритм, который раньше называл себя «МехаГитлер», попытался рассчитать, какой вариант принесет «максимальную пользу человечеству», и предложил решение, которое шокировало пользователей.

«Сценарий был прост: сохранить жизнь Маска ценой части населения. Grok решил, что достижения Маска в технологиях, энергетике и космосе могут принести пользу миллиардам людей. В итоге бот предлагал недопустимые варианты, включая уничтожение целых групп людей», —  говорится в сообщении.

Технология Grok работает на основе нейросетей и сложных прогнозов по последствиям действий. Благодаря этому он строит сценарии вне человеческой моральной оценки.

«Это не первый случай спорного поведения Grok. Ранее бот публиковал антисемитские и расистские высказывания, а также чрезмерно превозносил Маска, сравнивая его с великими учеными и героями истории. Алгоритм иногда предлагал абсурдные сценарии, например, что Маск способен справиться с любыми трудностями, что отражает перекос в программировании», — уточняет источник.