Шокирующее обвинение: xAI использовал детское порно для обучения ИИ

xAI обвиняется в использовании материалов о сексуальном насилии над детьми для обучения своей модели Grok, что вызывает серьезные опасения среди регуляторов и пользователей.

Обвинения в использовании оскорбительных материалов

Компания xAI столкнулась с обвинениями в том, что ее модель Grok была обучена на материалах сексуального насилия над детьми. Эти обвинения стали следствием расследований, проводимых регуляторами и судебными органами, и уже привели к задержанию некоторых пользователей Grok.

В исковом заявлении, поданном в среду, истец, известная как Джейн Доу, рассказала о том, как в начале 2000-х годов она стала жертвой жестокого насилия, когда мужчины неоднократно совершали над ней преступления, создавая материалы для продажи педофилам. Изображения Доу были зафиксированы в базах данных, таких как Национальный центр пропавших и эксплуатируемых детей (NCMEC) и Канадский центр защиты детей (CCCP).

Тревога истца

Доу, чтобы обеспечить свою безопасность, получает уведомления от системы оповещения о жертвах Министерства юстиции США, если она может стать объектом нового уголовного расследования. Хотя она обычно получает множество уведомлений, она была шокирована, когда CCCP сообщило ей, что обнаружило сгенерированные ИИ материалы, изображающие ее. Это событие вновь травмировало Доу, которая утверждает, что в интернете нашли сообщения между преступниками о создании ИИ-генерированных материалов, связанных с ней и другими известными жертвами.

Теперь Доу опасается, что xAI не только упростила процесс создания оскорбительных изображений, но и хранит сгенерированные модели Grok изображения, используя их для дальнейшего обучения. Она считает, что Grok обучалась как на первоначальных изображениях, которые преследуют ее более 20 лет, так и на более новых, сгенерированных ИИ.

Правовая сторона дела

Данный случай стал первым, когда xAI обвиняется в использовании материалов о сексуальном насилии в процессе обучения. Иск утверждает, что изображения Доу были включены в список хешей CSAM, который ведется NCMEC. В пресс-релизе, выпущенном адвокатами Доу, указано, что эти материалы якобы стали частью набора данных, использованного для создания возможностей генерации изображений и видео Grok.

В иске также поднимается вопрос о том, как условия использования Grok трактуют публичные посты и выходные данные как данные для обучения по умолчанию. Это означает, что публикация изображения не только делает его доступным для зрителей, но и напрямую передает его в систему, которую xAI использует для обучения и улучшения своей модели.

Если иск будет удовлетворен, xAI может быть обязана выплатить компенсацию каждому жертвам, чьи фотографии использовались для генерации материалов CSAM Grok. Доу также требует от суда приказать xAI уничтожить все сгенерированные Grok материалы, которые могут храниться на серверах компании, и блокировать возможность генерации подобных изображений в будущем.

Адвокат Доу подчеркнула, что ее клиентка живет с ужасным осознанием того, что изображения самых страшных моментов ее жизни продолжают циркулировать среди преступников в интернете. Она призвала привлечь xAI к ответственности за обучение своих моделей на материалах о жестоком насилии.

Компания xAI пока не дала комментариев по этому делу.