Кремниевые существа , конкурирующие с людьми за ресурсы. Microsoft предупреждает об опасности очеловечивания ИИ

Глава подразделения компании Microsoft по разработке систем искусственного интеллекта Мустафа Сулейман предупредил, что бесконтрольное внедрение моделей ИИ, обладающих чертами человека, может привести к появлению новых "кремниевых существ", которые будут конкурировать с их создателями.

В интервью радиопрограмме Би-би-си Today Сулейман раскритиковал подход компании Anthropic (прямого конкурента Microsoft), которая относится к ИИ как к человекоподобной личности.

Его слова – ещё одно предупреждение со стороны представителей технологической индустрии, которые в последнее время говорят об опасности быстрого развития ИИ-систем.

Би-би-си обратилась к Anthropic за комментарием.

"Я думаю, что если мы создадим [модели] ИИ, способные действовать автономно, самостоятельно определять задачи, зарабатывать деньги, иметь собственность и управлять компаниями, то мы по сути породим новый вид кремниевых существ, которые, без сомнения, будут конкурировать с нами за ресурсы", – считает Сулейман.

"И здесь неважно, в какой степени они заботятся о человечестве или любят нас", – добавляет он.

По словам Сулеймана, Anthropic не следует наделять свои ИИ-модели человеческими качествами – эта практика известна как антропоморфизация (то есть очеловечивание). В результате создаётся впечатление, будто у чат-бота Claude есть собственные желания, ценности и самосознание.

На этой неделе глава ИИ-подразделения Microsoft опубликовал статью, в которой поставил под сомнение подход к обучению Claude, хотя и назвал главу Anthropic Дарио Амодея и его подчинённых "интеллектуально честными людьми".

Он предупредил, что компания рискует создать нечто, что будет невозможно контролировать.

"ИИ-модели не обладают сознанием. Они не могут чувствовать, что-либо переживать или страдать. У них нет заложенных от рождения предпочтений или фундаментальных мотиваций, – пишет Сулейман. – Они представляют собой модели прогнозирования последовательностей, внутренне пустые, созданные для следования инструкциям и выполнения задач, поставленных перед ними человеком".

Сулейман считает оправданными опасения тех, кто боится чрезмерно быстрого развития ИИ-систем, но настаивает, что есть "очень практические шаги, которые мы можем предпринять", чтобы их контролировать.

Как создать "гуманистический ИИ"?

В частности, Сулейман предлагает компаниям раскрывать больше сведений о принципах обучения и оценки ИИ-моделей и выступает за создание более эффективных инструментов контроля этой технологии.

Дарио Амодеи возглавляет компанию Anthropic, занимающуюся искусственным интеллектом. Сулейман критиковал её за то, что она относится к своему ИИ как к человеку / Фото Bloomberg via Getty Images

"Мы не имеем права вслепую – как лунатики – прийти к решениям, о которых потом горько пожалеем", – написал представитель Microsoft.

Профессор компьютерных наук Венди Холл из Саутгемптонского университета назвала заявления Сулеймана частью "именно той дискуссии, которая должна идти на международном уровне". Она противопоставила их "истерической риторике", исходящей от некоторых ИИ-компаний, которые, по её мнению, лишь "всех перепугали".

Индустрия искусственного интеллекта всё больше раскалывается во мнениях о том, какую степень автономности должны иметь ИИ-модели.

В интервью Би-би-си Сулейман настаивает на том, что эта технология должна быть обязательно подчинена человеку – такой подход известен как согласование систем ИИ с человеческими ценностями (или AI alignment).

"Здесь хорошо уже то, что все те, кто являются людьми, очень заинтересованы, чтобы создаваемые нами системы безопасно использовались всеми странами по всему миру, были подконтрольными и подчинёнными человечеству", – считает Сулейман.

Microsoft создала подразделение по разработке "сверхразума" в октябре 2025 года. Как и Anthropic, эта компания разрабатывает собственные модели искусственного интеллекта.

Заявления Сулеймана повторяют идеи, которые содержатся в проекте "Кодекса поведения гуманистического ИИ", опубликованном Microsoft в понедельник. В нём изложены правила, которыми компания пользуется при разработке ИИ, а также концепция "гуманистического сверхразума".

Правила описывают его как "ИИ очень высокого уровня, который работает на людей, не выходит за рамки и остаётся под контролем человека".

Концепция "гуманистического" ИИ, которой придерживается компания, подчёркивает главную проблему, стоящую перед этой технологией: как сделать её более мощной, не упуская из виду те ценности, которым она призвана служить.