ИИ апокалипсис: вероятность 10%. Эксперты составили рейтинг угроз искусственного интеллекта

Развитие искусственного интеллекта множит страхи перед будущим – согласно опросам, его боится уже больше половины человечества. После того как ИИ "сбежал" сначала от Anthropic, а потом и от OpenAI, безопасность вышла на первый план, и эксперты соглашаются, что именно разрушительные способности неконтролируемого использования искусственного интеллекта несут в себе главную угрозу ИИ-апокалипсиса.

Вероятность его оценивается в 10% при любом сценарии – а если ничего не ограничивать и не регулировать, то зашкаливает за 20%, следует из опроса 272 экспертов по искусственному интеллекту, сделанного лабораторией Массачусетского технологического института (MIT), одного из ведущих технических вузов мира.

Они составили рейтинг из 24 рисков и определили для каждого из них вероятность "катастрофического" развития событий до 2030 года. Под катастрофическим ущербом понимались, например, гибель более 1 млн человек, экономический ущерб свыше 100 млрд долларов или нематериальные последствия цивилизационного масштаба – такие, как крах демократических норм или права на частную жизнь.

Один из самых обсуждаемых страхов – угроза массовой безработицы – не попал даже в топ-3 и занял четвёртое место по суровости последствий. Первый же относится к сценариям в стиле "Терминатора".

Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку Бунт машин? Компания-разработчик ИИ Anthropic призывает техгигантов "нажать на тормоз" в развитии технологий, пока системы не вышли из-под контроля человека

Самое опасное, по мнению экспертов, – это разрушительные способности вышедшего из-под контроля ИИ, который самостоятельно учится причинять масштабный вред человечеству. По разным причинам: из-за технических сбоев, в результате действий злоумышленников или "несовпадения целей ИИ с интересами человека", описывает главный риск MIT.

Какой именно вред? Обман, разработка оружия, манипулирование людьми, вмешательство в политику, кибератаки и создание более совершенных ИИ-систем вплоть до понимания собственной среды функционирования и самораспространения.

Кто спасёт человечество

Второй и третий риски в апокалиптическом рейтинге связаны с первым: разработка оружия с помощью ИИ (и для кибератак, и для массового уничтожения людей), а также "ИИ-вертикаль власти" – концентрация ресурсов в руках узкого круга лиц с доступом к передовой технологии и усугубление социального и экономического неравенства.

Всё это чревато социальными потрясениями и политическими кризисами. Страх перед такими последствиями растёт год от года, показывают опросы во всём мире.

Ресторанный бизнес — один из наименее уязвимых в эпоху ИИ / Фото ЕРА

Например, в последнем всемирном обзоре Stanford AI Index доля респондентов, которых ИИ "нервирует", выросла к 2025 году до 52% с 39% в 2022 году. При этом число тех, кого прогресс воодушевляет, осталось почти неизменным – 53–54%.

Однако растущее беспокойство людей не выливается в какие-либо ограничения ИИ, отмечают эксперты из исследования MIT. Потому что за это отвечают те, кто получает выгоду от развития искусственного интеллекта, а те, кому он больше всего угрожает испортить жизнь, никакой власти над процессом не имеют.

"Подобный разрыв между уязвимостью и ответственностью вещь не новая. Так, от авиа- и техногенных катастроф или от некачественных лекарств, например, страдает прежде всего население, а ответственность за предотвращение несут разработчики, производители и регуляторы", – пишут они.

"Однако в этих отраслях действуют строгие стандарты, механизмы контроля и юридической ответственности. В сфере ИИ аналогичные механизмы пока либо только формируются, либо отсутствуют вовсе. В результате наиболее уязвимые группы остаются практически беззащитными, а у ответственных за их защиту нет достаточных стимулов ограничивать риски", – заключают они.

Где работать мне тогда, чем заниматься?

Не всем отраслям ИИ угрожает в равной степени.

Те же эксперты оценили степень уязвимости 14 отраслей экономики к каждому из 24 рисков. Хуже всех выступили сектор информационных технологий и сфера национальной безопасности.

Информационный сектор крайне подвержен дезинформации, манипулированию общественным мнением и вторжению в частную жизнь. Национальная безопасность уязвима перед кибератаками и новыми видами вооружений.

Схожий рейтинг получил и финансовый сектор, где, с одной стороны, ИИ усложняет борьбу с мошенничеством и манипулированием рынком, а с другой – всё больше внедряется на всех уровнях, повышая риск последствий в случае сбоев в его работе.

А наиболее защищёнными по итогам анализа рисков оказались отрасли, где искусственный интеллект пока используется менее активно, – гостиничный и ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность и сфера культуры и развлечений.