Готова ли индустрия искусственного интеллекта замедлить темпы разработки ради безопасности

В подкасте Equity обсудили, действительно ли руководители крупнейших технологических компаний готовы замедлить развитие искусственного интеллекта ради снижения рисков, пишет TechCrunch.

В очередном выпуске подкаста Equity издания TechCrunch эксперты и журналисты обсудили готовность лидеров IT-индустрии приостановить стремительную гонку вооружений в сфере искусственного интеллекта. В последнее время ведущие лаборатории и руководители крупных компаний все чаще высказываются о необходимости снижения темпов разработки новых моделей. Направление обусловлено опасениями по поводу безопасности, неуправляемости технологических систем и рисков для инфраструктуры.

Однако среди экспертов сохраняется скептицизм относительно того, насколько искренни подобные заявления глав IT-гигантов. Пока одни топ-менеджеры заявляют о необходимости пауз и глубокого изучения поведения нейросетей, другие представители отрасли категорически отвергают идею торможения прогресса. В частности, глава компании Nvidia Дженсен Хуанг назвал опасения относительно катастрофических рисков ИИ преувеличенными и призвал продолжать максимально быстрое развитие технологий, независимо от действий конкурентов.

Ситуация осложняется тем, что механизма добровольного или законодательного контроля темпов разработки пока не существует. Любая пауза со стороны одной лаборатории создает преимущество для соперников, что делает реальное замедление крайне маловероятным. Участники дискуссии приходят к выводу, что за публичными заявлениями о безопасности зачастую скрывается борьба за оценки стоимости компаний и стремление повлиять на будущую регуляторную политику государства.