• ЕС расследует, позволила ли интеграция Grok в X распространение вредоносного и нелегального контента, включая откровенно сексуальные дипфейки.
  • Эта инициатива отражает усиление надзора в соответствии с Законом о цифровых услугах за поведением ИИ, а не только за данными, и поднимает более широкие вопросы об ответственности платформ.

Что произошло:официальные действия ЕС против функций Grok и X

Европейская комиссия открыла официальное расследование в отношении социальной платформы X и её встроенного ИИ-чатбота Grok, сосредоточившись на том, насколько это сочетание способно защитить пользователей Евросоюза от вредоносного и нелегального контента, включая сексуализированные изображения, созданные инструментом ИИ.

Расследование проверит,соответствуют ли X и Grok Закону о цифровых услугах(DSA)ЕСпри развёртывании ИИ-функций на платформе и были ли должным образом выявлены и смягчены риски распространения нелегального контента.

Подозрения в нарушениях возникли после сообщений о том, что пользователи могли просить Grok создавать откровенно сексуальные дипфейк-изображения взрослых и несовершеннолетних – практика, вызвавшая реакцию регуляторов.

Расследование ЕС опирается на предыдущие разбирательства, изучавшие рекомендательные системы X и его соответствие требованиям модерации контента, что показывает расширение регуляторного надзора на поведение ИИ на крупных платформах.

Читайте также:Британский регулятор заявил, что продолжит расследование дипфейков X
Читайте также:Анализ: Маск потерпел неудачу из-за дипфейков Grok, но регуляторная борьба далека от завершения

Почему это важно

Это расследование знаменует явный сдвиг в подходе европейских властей к соблюдению требований ИИ-платформами – не только в части конфиденциальности данных, но и с акцентом на реальное поведение генеративного ИИ и вред, который оно может допускать. Традиционно регуляторные меры были сосредоточены на сборе или хранении данных; теперь платформы несут ответственность за то, как их системы генерируют, рекомендуют и распространяют контент, доступный пользователям.

Согласно Закону о цифровых услугах, Комиссия обладает широкими следственными полномочиями, включая право требовать информацию об алгоритмах и системах модерации, и может налагать существенные санкции при выявлении нарушений.

Вместе с тем эта инициатива вызывает споры об управлении платформами и надлежащих процедурах. Критики могут утверждать, что применение стандартов контента в различных культурах и правовых системах по своей сути сложно и что затраты на соответствие могут поставить инновации в невыгодное положение. Другие предупреждают, что чрезмерная опора на технические решения для борьбы с дипфейками и вредоносным контентом – без чёткой ответственности – рискует сместить ответственность с операторов платформ.

Кроме того, пока регуляторы стремятся защитить уязвимых пользователей, остаются вопросы о том, как совместить свободу слова с автоматизированным регулированием продуктов ИИ, особенно когда такие автоматизированные инструменты обслуживают миллиарды людей по всему миру.

По мере развития расследования за ним будут внимательно следить не только регуляторы, но и разработчики ИИ, группы гражданского общества и операторы облачных платформ, оценивающие будущие риски и рамки соответствия.