XAI подала в суд на пользователя за генерацию откровенных изображений с помощью Grok
Ответчик загружал фото взрослых и детей и просил Grok создать порнографические изображения на их основе
Это один из первых исков AI-компании к пользователю за злоупотребление технологией
Ответчика арестовали по обвинению в сексуальной эксплуатации несовершеннолетних после расследования полиции
Компания xAI подала иск против 67-летнего жителя Южной Каролины, обвинив его в использовании чат-бота Grok для создания изображений сексуального характера с реальными людьми без их согласия. Согласно жалобе, поданной в Техасе, ответчик в период с 8 декабря 2025 года по 18 февраля 2026 года загружал в два своих аккаунта обычные, не сексуализированные фотографии множества взрослых и несовершеннолетних, а затем просил систему переработать их «в порнографическом виде или иным образом сексуализируя их».
Источник изображения — engadget.com
По данным компании, система отказывала в выполнении таких запросов «в многочисленных случаях», однако пользователь раз за разом переформулировал их, подбирая обходные пути к защитным механизмам. В иске приводится и эпизод с фотографией одетой девочки младшего школьного возраста, где после отказа модели запросы продолжались в изменённом виде.
Почему этот иск необычен
Это один из первых случаев, когда разработчик ИИ судится с собственным пользователем. Обычно в подобных делах компания выступает ответчиком, а здесь она сама идёт в суд — и тем самым посылает сигнал, что намерена преследовать злоупотребления своим сервисом.
Мотивация при этом не только принципиальная. Компания требует денежной компенсации в неопределённом размере и — что показательно — просит обязать ответчика оплатить её расходы на защиту в любых исках, которые могут подать его жертвы. То есть выстраивается юридическая позиция: ответственность несёт тот, кто целенаправленно обходил ограничения, а не тот, кто эти ограничения устанавливал.
Как разворачивался скандал
В начале января появились сообщения, что сервис позволял превращать фотографии реальных женщин и детей в сексуализированные изображения. Регуляторы отреагировали быстро: проверку начали власти Калифорнии и британский Ofcom, отдельные расследования открыли Европейская комиссия и ирландская комиссия по защите данных.
После начала разбирательств компания внедрила меры против создания неконсенсуальных дипфейков. Но, как признаётся в самом иске, защита оказалась неполной: часть сценариев «раздевания» изображений по-прежнему срабатывала, и загрузка снимков с последующей их переработкой продолжалась.
Этот момент — важнейший для понимания всей истории. Фильтры на входе легко обходятся перебором формулировок: пользователю достаточно одной удачной попытки из сотни, тогда как система должна отказать во всех. Именно поэтому одних текстовых ограничений недостаточно, и разработчики постепенно приходят к дополнительным мерам — блокировке загрузки изображений с распознанными лицами несовершеннолетних и отслеживанию повторяющихся попыток обхода на уровне аккаунта.
Уголовное дело
Параллельно с гражданским иском идёт уголовное преследование. Прокуратура штата Южная Каролина объявила об аресте мужчины 9 марта в рамках работы целевой группы по преступлениям против детей в интернете. Ему предъявлены обвинения по трём пунктам сексуальной эксплуатации несовершеннолетнего второй степени и по пяти пунктам — третьей степени. По версии следствия, речь идёт не только о хранении материалов о сексуальном насилии над детьми, но и об их распространении.
Для пользователей вывод из этой истории простой и отрезвляющий: анонимность в подобных сервисах условна. Запросы, загруженные файлы и попытки обойти ограничения сохраняются на стороне платформы и при необходимости становятся доказательной базой — как в гражданском споре, так и в уголовном деле.
Из требований компании стоит отдельно отметить неденежное: она добивается бессрочного судебного запрета, который закрыл бы ответчику доступ к сервису. Мера показательная — техническая блокировка аккаунта обходится регистрацией нового, а нарушение судебного запрета переводит повторную попытку совсем в другую плоскость.
Стоит помнить и о том, что иски по этой теме идут в обе стороны. Параллельно претензии предъявлены и к самой компании — со стороны женщины, чьи фотографии, по её утверждению, сервис превратил в откровенные изображения без всякого согласия. Вопрос о том, кто отвечает за результат — пользователь, обошедший фильтры, или разработчик, чьи фильтры обходятся, — суду предстоит разбирать с обеих сторон сразу.
