Запрещенный контент с участием детей в обучении ИИ выявила Amazon

Компания Amazon обнаружила большое количество незаконных материалов с участием детей в данных, которые использовались для обучения ее ИИ, сообщает Total.kz со ссылкой на Ferra.

Об этом говорится в расследовании Bloomberg со ссылкой на Национальный центр по поиску и защите пропавших и эксплуатируемых детей (NCMEC) в США.

«По данным организации, в 2025 году она получила более 1 миллиона сообщений о подобных материалах, связанных с ИИ. Подавляющее большинство этих сообщений поступило именно от Amazon. При этом компания  сообщила лишь, что контент был найден во «внешних источниках данных», использованных для обучения ИИ, но не уточнила, откуда именно он появился», — отметили в Национальном центре.

Представитель NCMEC Фэллон Макналти назвала ситуацию «необычной». По ее словам, такой большой объем сообщений вызывает «серьезные вопросы» о том, какие данные используются и какие меры защиты применяются в ИИ-индустрии. Она также отметила, что из-за отсутствия информации об источниках эти сообщения невозможно передать правоохранительным органам для дальнейших действий.

По словам Amazon, весь подобный контент был удален до начала обучения ИИ.