Коллективный иск обвиняет компанию Илона Маска xAI, занимающуюся искусственным интеллектом, в обучении Грока с использованием реальных и созданных искусственным интеллектом материалов о жестоком обращении с детьми.
На сегодняшний день это самое серьезное обвинение против подразделения Маска по искусственному интеллекту: женщина, подавшая иск под псевдонимом Джейн Доу, обвиняет xAI в том, что она обучила модель генерации изображений Грока материалам о сексуальном насилии над детьми (CSAM).
Подробности читайте после объявления
Как Арс Техника Сообщается, что иск был подан в среду.
Истец была дошкольником в начале 2000-х годов, когда взрослые неоднократно оскорбляли ее, создавая CSAM. Их изображения с тех пор были хешированы Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC) и Канадским центром защиты детей (C3P).
Согласно иску, этот самый хешированный материал был частью набора данных, который xAI использовал для создания возможностей Грока по работе с изображениями и видео.
Публичные X-Posts как тренировочная пища
В иске описывается технический механизм, который отличает Grok от других крупных поставщиков ИИ: согласно условиям обслуживания xAI, система по умолчанию рассматривает общедоступные X-посты и собственные сгенерированные изображения как обучающие данные. Любой, кто публикует изображение на платформе, передает его непосредственно в конвейер обучения.
В иске подчеркивается, что xAI фильтрует жестокий контент в продукции Грока, чтобы исключить его из переподготовки. Однако CSAM, интимные изображения без согласия (NCII) или другой контент NSFW прямо не обозначены как исключенные категории в условиях использования.
Подробности читайте после объявления
Все остальные крупные генераторы изображений ИИ, как правило, отказывались от сексуализированных изображений реальных людей, особенно несовершеннолетних, а неадекватные фильтры в xAI также привели к официальным расследованиям ЕС по поводу распространения незаконного контента.
Технические препятствия при очистке данных
Истец утверждает, что CSAM после приема продолжает влиять на состояние модели даже после того, как исходные изображения впоследствии будут удалены.
Полностью удалить отдельные обучающие примеры из уже обученной модели технически сложно, и xAI никогда публично не заявлял, что проводил такую очистку.
В рамках предложенного группового иска Джейн Доу требует возмещения ущерба всем жертвам, чьи детские изображения послужили основой для созданного Гроком CSAM. Кроме того, суд должен обязать xAI уничтожить все CSAM, хранящиеся на ее серверах, и полностью запретить Grok создавать такой контент.
Сара Лондон, партнер Girard Sharp LLP, заявила в пресс-релизе, что xAI должна нести ответственность за сознательное обучение своих моделей изображениям истца и всех других жертв коллективного иска.
Иск основан на Законе Маши и федеральных законах о детской порнографии, которые предоставляют жертвам гражданские права на производство, хранение и распространение. X ответил на запрос от Арс Техника не ответил.
