В Британии расследуют поведение созданного Илоном Маском чат бота Grok, раздевающего реальных людей

Британский регулятор Ofcom начал расследование в отношении соцсетевой платформы X Илона Маска из-за сексуализированных изображений, которые создаются с использованием ее ИИ-инструмента Grok.

В заявлении Ofcom говорится о "крайне тревожных сообщениях" о том, что чат-бот применяют для создания и распространения изображений людей без одежды, а также "сексуализированных изображений детей".

Если нарушение закона будет установлено, Ofcom может наложить на X (бывший Twitter) штраф в размере до 10% от его мирового оборота, или 18 млн фунтов стерлингов (около 21 млн евро) – в зависимости от того, какая сумма окажется больше.

Если X не выполнит требования регулятора, Ofcom может обратиться в суд с требованием обязать интернет-провайдеров полностью заблокировать доступ к платформе на территории Великобритании.

На прошлой неделе в четверг премьер-министр Великобритании Кир Стармер прокомментировал скандал с Grok в эфире радиостанции Greatest Hits: "Это позор. Это отвратительно. И это недопустимо. X должен взять ситуацию под контроль", – заявил он и обещал принять меры.

Министр науки, инноваций и технологий Лиз Кендалл, как ожидается, должна выступить в Палате общин с заявлением по поводу Grok. Её предшественник на этом посту, а теперь министр торговли Питер Кайл отметил в комментарии программе BBC Breakfast, что Grok, по его мнению, не был должным образом протестирован, и назвал это возмутительным.

"Тот факт, что буквально вчера я встретил еврейскую женщину, которая обнаружила, что ИИ сгенерировал и выложил в интернет её изображение в бикини на фоне Освенцима, вызвал у меня тошноту", – сказал он.

Би-би-си ознакомилась с несколькими примерами таких ИИ-изображений. Женщин на них "раздевали" без их согласия и "заставляли" принять сексуальные позы. Одна из женщин пожаловалась, что было создано более 100 сексуализированных изображений с её участием.

Как 7 января писал Bloomberg, с 5 по 6 января Grok генерировал примерно 6700 сексуализированных изображений в час.

Илон Маск реагирует на ситуацию двойственно / Фото Getty Images

Илон Маск, которому принадлежит Х, с одной стороны, заявил, что любой, кто использует Grok для создания нелегального контента, столкнется с теми же последствиями, что и публикующий нелегальный контент, а с другой, комментируя публикацию с вопросом о том, почему другие ИИ-платформы не подвергаются проверке, написал, что правительство Великобритании ищет "любой предлог для цензуры".

Маск поделился изображением тостера в бикини с подписью "Grok может надеть бикини на что угодно", а также постом, где было две фотографии Стармера в женском купальнике, сгенерированных, как утверждалось, чатом GPT и Gemini с вопросом, почему же Стармера так волнует Grok, если другие нейросети тоже могут создавать изображения людей в бикини. Маск ретвитнул это с подписью "Они просто хотят ограничить свободу слова".

После того как в Миннеаполисе сотрудник американской иммиграционной службы (ICE) убил женщину во время протестов против действий ICE, некоторые пользователи X с помощью Grok "раздели" старую фотографию жертвы, а также новое фото её тела после стрельбы. Когда агентство AFP пыталось получить по электронной почте комментарий по этому поводу, компания xAI ответила кратким автоматическим сообщением: "Традиционные СМИ лгут".

В официальном аккаунте X Safety говорится, что нелегальный контент, в том числе материалы, связанные с сексуализованным насилием над детьми, удаляется, на распространяющие его аккаунты накладываются постоянные ограничения, а в случае необходимости соцсеть работает с местными властями и представителями закона. Те, кто создает такие изображения с помощью Grok, столкнутся с теми же последствиями, что и те, кто их публикует. Илон Маск делился этой записью.

На этой неделе Ofcom сообщал, что "срочно связался с X и xAI" по поводу функции Grok, предупредив, что в зависимости от их ответа может начать расследование. В пятницу представитель Ofcom сообщил, что регулятор "получил ответ" и теперь "проводит ускоренную оценку в срочном порядке".

Сейчас Ofcom собирается проверить, не нарушил ли X закон, не удаляя незаконный контент достаточно оперативно (как жаловалась изданию Guardian Эшли Сент-Клер, мать одного из сыновей Маска, "раздетая" фотография её 14-летней не удалялась больше 12 часов, при том что она могла связаться с сотрудниками Х напрямую), а также были ли приняты "надлежащие меры" для предотвращения просмотра этого контента пользователями в Великобритании. К такому контенту, как отмечает регулятор, относятся "интимные изображения, созданные без согласия", а также материалы сексуального характера с участием детей.

Представитель Ofcom не стал уточнять, сколько времени займёт расследование, но подчеркнул, что оно будет "вопросом высочайшего приоритета".

"Платформы обязаны защищать людей в Великобритании от контента, который является незаконным в Великобритании, – заявили в Ofcom. – Мы не будем колебаться и проведём расследование, если заподозрим, что компании не выполняют свои обязанности, особенно когда существует риск причинения вреда детям".

В четверг Grok опубликовал сообщение о том, что генерация и редактирование изображений теперь "доступны только платным подписчикам", однако, как отметил официальный представитель британского премьера, "это просто превращает ИИ-функцию, позволяющую создавать незаконные изображения, в платную услугу" и не решает проблему.

"Это оскорбляет жертв мизогинии и сексуального насилия", – отметили в канцелярии Стармера.

Представитель Еврокомиссии Томас Ренье заявил: "Это не меняет нашей принципиальной позиции – платная подписка или бесплатная. Мы не хотим видеть такие изображения. Всё предельно просто".

"Мы требуем от платформ обеспечить, чтобы их устройство и системы не позволяли генерировать такой незаконный контент", – сказал он журналистам.

Еврокомиссия ранее заявила, что расследует случаи публикации и создания откровенных изображений юных девочек, сгенерированных Grok после введения летом прошлого года платной функции под названием Spicy Mode (дословно "Пикантный режим").

"Это не "пикантно". Это незаконно. Это возмутительно. Это отвратительно. Этому не место в Европе", – подчеркнул представитель Еврокомиссии.

По словам Клиффа Штайнхауэра из некоммерческой организации National Cybersecurity Alliance, то, что теперь инструменты генерации изображений в Grok доступны только для платных подписчиков, может сократить масштаб злоупотреблений, но не устранит пробелы в безопасности, которые привели к появлению несогласованного сексуализированного контента.

"Одних лишь ограничений доступа недостаточно для комплексной защиты, поскольку мотивированные злоумышленники всё равно могут найти обходные пути, а реальная защита пользователей должна быть заложена в основе создания таких инструментов и управления ими", – цитирует его AFP.

Надавно Grok заблокировали Малайзия и Индонезия, принять меры обещали также Франция и Индия. Это не первый раз, когда Grok попадает в скандал: в июле чат-бот восхвалял Адольфа Гитлера, называя себя MechaHitler. Чат-бот также оставлял антисемитские комментарии в ответ на запросы пользователей. xAI тогда заявила, что будет блокировать такие высказывания ещё до их публикации.