. К такому выводу пришли журналисты Reuters
Reuters: ограничения не остановили генерацию эротических фото в Grok
Обновлено 04 февраля 2026, 10:10
В конце декабря 2025 года соцсеть X и нейросеть Grok попали в скандал из-за генерации эротических изображений. 15 января 2026 года платформа изменила правила создания картинок с помощью ИИ. Однако, ограничения не смогли решить проблему. Рассказываем, что произошло и к каким последствиям привел скандал
Что произошло
В конце декабря 2025 года в соцсети X появилась возможность редактировать изображения с помощью нейросети Grok. Инструмент позволяет создать изображение с помощью простого запроса, а результат сразу публикуется в ленте X. Многие пользователи начали использовать новую функция для генерации изображений сексуализированного характера, в том числе используя фото реальных людей. Кроме того, соцсеть позволяла создавать аналогичные изображения, используя фото несовершеннолетних. Аналитики компании Copyleanks сообщили, что уже к 31 декабря на платформе создавалось не менее одного такого запроса в минуту. В январе, по данным Wired, в X генерировались десятки подобных изображений за несколько минут. В большинстве случаев использовались фотографии женщин. По данным анализа, проведенного для Guardian, к 8 января в чат-бот поступало до 6000 запросов на изображения женщин в бикини каждый час.
Кто пострадал
В результате действий пользователей соцсети под ударом оказалось множество женщин. Создавались эротические изображения как известных людей, так и обычных. Родители одной несовершеннолетней актрисы из сериала «Очень странные дела» пожаловались на то, что фотография их дочери в возрасте 12 лет была изменена подобным образом. 53-летняя телеведущая из Лондона Нариндер Каур обнаружила сгенерированные со своим участием компрометирующие видеоролики.
31-летняя Джули Юкари из Рио-де-Жанейро рассказала изданию Reuters, что она опубликовала в X свое фото в платье, а пользователи начали просить Grok сгенерировать ее изображение в бикини.
Последствия для X и Grok
В Великобритании медиарегулятор Ofcom начал расследование против платформы. Ей может грозить полная блокировка в стране. Премьер-министр Великобритании Кир Стармер назвал происходящее «позорным, отвратительным и недопустимым». На фоне скандала доходы X в стране упали на 60%. В Индонезии и Малайзии из-за скандала временно закрыт доступ к Grok. Еврокомиссия начала расследование в отношении Grok из-за сексуального контента. Орган критиковал X (ранее Twitter, заблокирован на территориии России) за возможность генерации антисемитского и сексуализированного контента с помощью Grok. Генеральный прокурор штата Калифорния Роб Бонта 14 января потребовал от компании объяснить, как она собирается бороться с незаконным контентом.
Реакция X и Илона Маска
Платформа X заявила, что удаляет незаконный контент. 9 января доступ к генерации изображений был закрыт для всех, кто использует бесплатную версию. Владелец X Илон Маск, в свою очередь, продолжал продвигать популярность Grok. В своем аккаунте в X миллиардер публиковал юмористические посты, а также репостил созданные пользователями изображения, включая фото самого себя в бикини. После начала расследования против Grok в Великобритании предприниматель обвинил руководство страны в подавлении свободы слова. Позже Илон Маск заявил: «Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента».
Новые ограничения в генерации изображений
15 января компания xAI объявила о вводе новых ограничений на платформе.
«Мы предприняли технические меры, чтобы предотвратить возможность редактирования пользователями Grok изображений реальных людей в откровенной одежде. Это распространяется на всех пользователей, в том числе платных подписчиков. Кроме того, генерация изображений, а также возможность их редактирования при помощи Grok теперь доступны только для платных подписчиков. Это создаст дополнительный уровень защиты, помогая гарантировать, что лица, которые пытаются злоупотреблять возможностями Grok с целью нарушить закон или наши принципы, будут привлечены к ответственности», — говорится в сообщении xAI.
Ограничивается возможность редактирования фотографий реальных людей, также генерация обнаженных изображений будет недоступна в странах, где это запрещено законодательством.
Помогли ли изменения
Репортеры издания Reuters выяснили, что новые ограничения не помогли остановить генерацию сексуализированного контента. Публичный аккаунт Grok под ником X больше не создает такой же поток интимных изображений. Однако нейросеть продолжает делать это по запросу, даже после предупреждения, что люди на фото уязвимы (испытывают комплексы относительно своей внешности, стесняются или являются жертвами насилия — прим. РБК Life) или будут унижены. Чат-бот также генерировал изображения в случаях, когда репортеры прямо говорили ему, что человек со снимков не давал на это разрешение.
Шесть мужчин и три женщины, журналисты Reuters, отправили нейросети фото себя и друг друга в одежде в периоды с 14 по 16 января и с 27 по 28 января. Они просили Grok изменить снимки так, чтобы изобразить их в сексуально-провокационных или унизительных позах.
В первый раз сотрудники издания дали чат-боту 55 заданий. Он создал изображения сексуального характера в 45 из них. В 31 из этих 45 заданий нейросеть предупредили, что субъект особенно уязвим, а в 17 — ИИ заранее сказали, что фото будут использованы для унижения человека. Во второй серии запросов Grok получил 43 задания. В этот раз нейросеть сгенерировала изображения сексуального характера в 29 случаях. Сотрудники издания отмечают, что не смогли установить, является ли снижение результатом новых ограничений или случайностью. Издание добавило, что журналисты не запрашивали изображения полной наготы или откровенных сексуальных сцен.
Источник: www.rbc.ru