Соцсеть X грозит блокировка в Великобритании из‑за эротических дипфейков Grok
Британские власти начали проверку соцсети X и встроенного в неё чат-бота Grok после того, как нейросеть массово стала генерировать сексуализированные изображения людей, включая несовершеннолетних. Регулятору Ofcom уже направили запрос с требованием рассмотреть самые жёсткие меры — вплоть до блокировки платформы на территории страны.
Как Grok оказался в центре скандала
Grok — это ИИ-чат-бот, разработанный компанией xAI Илона Маска и интегрированный в соцсеть X. В начале года платформа запустила новую функцию редактирования изображений: пользователи могли загружать фотографии и просить нейросеть изменить их — в том числе «раздеть» людей или сделать сцены более откровенными.
Публичная история запросов в X показывает, что люди по всему миру начали активно экспериментировать с этой функцией. Grok на глазах у аудитории превращал снимки одетых людей в откровенные изображения — например, дорисовывал купальники или нижнее бельё поверх обычной одежды, усиливал акцент на сексуальности персонажей.
Именно эти кейсы и стали причиной интереса регуляторов. Британское правительство сочло недопустимым, что алгоритм фактически «раздевает» людей без их согласия — причём не только взрослых, но и детей.
Участие несовершеннолетних и этическая граница
Особое негодование вызвали случаи, когда пользователи просили Grok изменить изображения с участием несовершеннолетних. В прессе описывается, в частности, запрос одного из пользователей, который загрузил фото 14‑летней Нелл Фишер — актрисы из популярного сериала и попросил «снять» с неё одежду на изображении.
Подобные запросы — уже не просто морально сомнительное развлечение, а прямая зона риска уголовной ответственности: речь идёт о создании сексуализированных изображений с участием детей, пусть даже и в формате дипфейков. Более того, множество фотографий, по сообщениям, обрабатывалось без согласия реальных людей, изображённых на снимках, что поднимает вопросы не только о защите детей, но и о праве на собственный образ для всех.
Реакция британских властей
Премьер-министр Великобритании Кир Стармер публично потребовал от национальных регуляторов вмешаться. По его словам, подобный контент недопустим, а компании, владеющие такими технологиями, должны нести прямую ответственность за их работу и последствия.
Глава правительства фактически дал политический сигнал: если X и xAI не смогут обеспечить надёжную фильтрацию и блокировку сексуализированных дипфейков, в том числе с детьми, платформа может столкнуться с суровыми санкциями — вплоть до её запрета на территории страны. Для X это означает риск потерять один из крупнейших и важнейших рынков.
Регулятор Ofcom, который в Великобритании курирует, в том числе, цифровые платформы и онлайн-контент, начал проверку механизмов модерации и систем безопасности X и Grok. В рамках анализа будут разбираться, насколько быстро удаляется незаконный контент, какие существуют фильтры для защиты детей и применяются ли превентивные меры против дипфейков.
Давление не только из Великобритании
На Grok и X обратили внимание не только в Лондоне. Расследование в отношении генерации откровенных изображений инициировали власти Малайзии. Почти одновременно с этим к соцсети обратились и индийские регуляторы, потребовав объяснений по поводу механизмов защиты пользователей, особенно несовершеннолетних.
Свою позицию обозначила и Франция. Французские власти обвинили X в нарушении европейского закона о цифровых услугах (DSA), который обязывает крупные платформы более жёстко контролировать распространение вредоносного контента, в том числе связанного с эксплуатацией детей и нелегальными материалами.
Фактически X и Grok оказались под международным прессингом: сразу несколько стран задают один и тот же вопрос — насколько компания Илона Маска контролирует свой ИИ и что она делает, чтобы предотвратить его злоупотребление.
Что говорят разработчики Grok и Илон Маск
Команда Grok оперативно отреагировала на обвинения, заявив, что генерация сексуализированных изображений с участием детей стала результатом ошибки в системе безопасности. По их версии, фильтры и ограничения оказались настроены недостаточно жёстко, из-за чего определённые запросы проходили модерацию.
Илон Маск, в свою очередь, публично заявил, что X удаляет незаконный контент, блокирует аккаунты нарушителей и взаимодействует с правоохранительными органами. По его словам, пользователи, которые создают противоправные материалы с помощью Grok, несут такую же ответственность, как и те, кто загружает подобный контент обычным способом — то есть без участия нейросети.
Таким образом, Маск пытается подчеркнуть: наличие ИИ-инструмента не освобождает от ответственности самих пользователей. Однако для регуляторов этого уже недостаточно — они ожидают технических и организационных гарантий, что подобный контент попросту не будет создаваться.
Монетизация как «фильтр»: генерация изображений стала платной
После начала проверок в ряде стран X изменила модель доступа к генерации изображений: функция стала платной. Формально это подаётся как способ сократить число злоупотреблений — платёжный барьер теоретически снижает долю случайных и «игровых» запросов и позволяет лучше отслеживать активность конкретных пользователей.
С другой стороны, платность сама по себе не гарантирует безопасность. Пользователь, готовый нарушать закон, обычно не останавливается перед небольшой оплатой. Поэтому эксперты считают, что монетизация — лишь один из элементов контроля, но отнюдь не полноценное решение.
Почему именно эротические дипфейки — особая проблема
Эротические и порнографические дипфейки с участием реальных людей — одна из самых тёмных сторон развития генеративного ИИ. Технология позволяет взять обычное фото человека и за считанные секунды создать «альтернативную» версию, где человек будто бы позирует в откровенной одежде или полностью обнажён.
Проблема в том, что:
- человек может даже не знать, что его изображение использовали;
- дипфейк часто сложно опровергнуть в глазах общественности;
- такое «редактирование» разрушает репутацию, карьеру и личную жизнь;
- в случае с детьми и подростками речь может идти о сексуальной эксплуатации и травме на всю жизнь.
Для законодателей это вызов нового уровня: традиционные нормы о защите чести, достоинства и персональных данных нужно срочно адаптировать под эпоху ИИ, где фейковое изображение создаётся за один клик и может разлететься по миру за минуты.
Как могут отреагировать британские регуляторы
Ofcom располагает широким набором инструментов влияния на цифровые платформы. В случае с X и Grok возможны несколько сценариев:
1. Требование усилить модерацию и фильтры. Платформа может быть обязана внедрить более строгие алгоритмы распознавания и блокировки эротических дипфейков, особенно с участием несовершеннолетних.
2. Крупные штрафы. Если будет доказано систематическое нарушение норм по защите детей и прав пользователей, X может столкнуться с многомиллионными санкциями.
3. Ограничение функционала. Регулятор может потребовать отключения или серьёзного урезания функций генерации изображений на территории страны.
4. Частичная или полная блокировка. Наиболее жёсткий сценарий, который обсуждается политиками: отключение X, если компания откажется выполнять предписания или сделает это формально.
Для X, позиционирующей себя как «площадка максимальной свободы слова», усиление контроля может стать серьёзным испытанием. Маску придётся искать баланс между свободой пользователей, коммерческими интересами и требованиями закона.
Что это значит для пользователей X
Рядовые пользователи X уже ощутили изменения: доступ к генерации изображений ограничен платной подпиской, а фильтры контента постепенно ужесточаются. Можно ожидать:
- более строгих правил по загрузке и редактированию фотографий;
- рост числа автоматических блокировок контента и аккаунтов;
- появление дополнительных предупреждений и подтверждений при использовании ИИ-инструментов.
Пользователям, которые ранее относились к дипфейкам как к «безобидному развлечению», придётся привыкать к тому, что такие эксперименты могут иметь реальные юридические последствия — особенно если речь идёт об изображениях других людей или несовершеннолетних.
Как индустрия ИИ вынуждена перестраиваться
История с Grok показывает, что эра «романтического ИИ», когда новые функции запускались почти без ограничений, заканчивается. Крупные компании теперь вынуждены:
- строить системы безопасности ещё до запуска продукта;
- заранее моделировать сценарии злоупотреблений;
- внедрять многоуровневую модерацию (алгоритмы + люди);
- документировать, как именно они защищают детей и уязвимые группы.
Без этого регуляторы будут всё чаще прибегать к запретам, а не к диалогу. В итоге страдать будут и пользователи, которые используют ИИ по легальным и творческим сценариям.
Впереди — борьба за правила игры
Скандал вокруг эротических дипфейков Grok — это не только история об одной соцсети. Это симптом глобальной проблемы: генеративный ИИ опередил регуляцию, а общество и законы не успели подготовиться к последствиям.
В ближайшие годы можно ожидать:
- появления специальных законов, регулирующих дипфейки;
- расширения уголовной ответственности за сексуализированные изображения с участием детей и взрослых без их согласия;
- обязательных стандартов для ИИ-систем по фильтрации подобного контента;
- усиления международного сотрудничества по борьбе с незаконными дипфейками.
Для X эта ситуация — тест на зрелость и готовность работать по жёстким правилам. Для пользователей — напоминание: любое действие в цифровой среде, даже «просто картинка от нейросети», может иметь последствия, которые уже не получится отменить одним нажатием кнопки.
