Anthropic предложила законопроект о блокировке ИИ моделей в случае риска гибели более 50 человек

Компания продвигает инициативу, позволяющую правительству США останавливать опасные ИИ-разработки через суд, пишет TechCrunch.

Компания Anthropic направила в Конгресс США проект закона о безопасности искусственного интеллекта. Документ предусматривает возможность судебной блокировки выпуска или использования передовых ИИ-моделей. Согласно законопроекту, правительственные органы смогут вмешаться только при наличии обозримого и неминуемого катастрофического риска, угрожающего гибелью или тяжелыми травмами более чем 50 людям либо материальным ущербом на сумму свыше 1 миллиарда долларов.

Предложение компании передает исключительное право на блокировку ИИ-систем Министерству торговли США через решение федерального судьи. При этом другим федеральным агентствам и штатам будет запрещено самостоятельно ограничивать релизы нейросетей. Представители Anthropic заявили, что документ отражает собственную концепцию компании по работе с продвинутым ИИ и предлагает разумный подход к государственному регулированию отрасли.

Законопроект вызвал споры среди экспертов и правозащитников. Критики указывают на высокий порог вмешательства государства, отмечая сложности с точным предсказанием числа потенциальных жертв до запуска системы. Кроме того, ограничения на действия отдельных штатов могут ослабить местное законодательство в сфере безопасности ИИ, сделав процедуру контроля чрезмерно централизованной.