Британский регулятор расследует Grok AI Илона Маска из-за дипфейков и изображений сексуального характера

«Британский регулятор расследует Grok AI Илона Маска из-за дипфейков и изображений сексуального характера» — публичная запись, основанная на материалах статьи, контексте субъекта, связанных событиях и контексте связей.

• Британский медиарегулятор Ofcom начал официальное расследование в отношении платформы X Илона Маска и её ИИ-чат-бота Grok после сообщений о том, что инструмент позволял создавать и распространять откровенные и незаконные дипфейк-изображения. • Премьер-министр Кир Стармер назвал такой контент «отвратительным» и незаконным, а власти рассматривают юридические и регуляторные меры, включая возможные штрафы или ограничения работы сервиса, если X не выполнит требования законов о безопасности.

Что произошло: расследование Ofcom в отношении злоупотреблений Grok Британское управление связи Ofcom открыло расследование в отношении социальной платформы X из-за предполагаемого вредоносного контента, создаваемого её ИИ-чат-ботом Grok, — прежде всего откровенных и дипфейк-изображений, которые могут нарушать законы Великобритании. Ведомство проверяет, насколько адекватно X оценила и снизила риск того, что Grok будет создавать и распространять запрещённый контент, особенно изображения интимного характера без согласия изображённых лиц и материалы с сексуальным насилием над детьми.

Согласно сообщениям, пользователи просили Grok создавать изображения с сексуальным подтекстом, цифровым образом изменяя фотографии людей без их согласия. В ответ на жёсткую критику со стороны общественности и регуляторов X и разработчик ИИ xAI ограничили функции генерации и редактирования изображений в Grok на основной платформе, оставив их только платным подписчикам, — мера, призванная сдержать злоупотребления. Однако критики считают, что это не решает проблему по существу: отдельные точки доступа, например автономное приложение Grok, по-прежнему способны создавать такие изображения. Правительство Великобритании заняло жёсткую позицию.

Премьер-министр Кир Стармер назвал произошедшее «абсолютно отвратительным и постыдным» и предупредил парламентариев: если X не сможет контролировать вывод Grok, правительство вмешается быстро, в том числе использует регуляторные полномочия, чтобы ограничить или взять под контроль работу сервиса. Министр технологий Лиз Кендалл и другие официальные лица поддержали эту позицию, связав злоупотребление ИИ с более широкими проблемами безопасности в интернете и злоупотреблением цифровыми технологиями.

Расследование Ofcom проверит соблюдение британского Закона о безопасности в интернете (Online Safety Act), который требует от платформ защищать пользователей от нелегального контента, включая материалы, связанные с сексуальной эксплуатацией и насилием. Регулятор вправе обращаться в суд за решениями, которые могут отключить X от платёжных систем Великобритании или доступа в интернет в случае выявления серьёзных нарушений. Эти события в Великобритании происходят на фоне более широкого международного внимания.

Несколько стран, включая Малайзию и Индонезию, ограничили доступ к Grok из-за опасений по поводу возможностей ИИ по созданию изображений, ссылаясь на риски генерации оскорбительного, непристойного контента или изображений без согласия. Еврокомиссия также заявила, что проверит соблюдение X региональных законов о безопасности в интернете.

Читайте также: Илон Маск откроет исходный код алгоритма X на фоне международного внимания Читайте также: xAI Илона Маска привлекает $20 млрд на фоне растущей критики дипфейков Grok AI Почему это важно Расследование Ofcom в отношении Grok обнажает серьёзные противоречия на стыке генеративного искусственного интеллекта, модерации контента и юридической ответственности.

По мере того как ИИ-системы становятся способны синтезировать реалистичные изображения, потенциал злоупотреблений — включая создание вредоносных или нелегальных материалов — усиливает давление на регуляторов, требуя применения существующих законов и разработки новых рамок, адаптированных к генеративным ИИ-технологиям. Скандал также показывает ограниченность нынешних моделей управления платформами, которые во многом полагаются на жалобы пользователей и реактивные меры.

Критики ответа X отмечают, что ограничение генерации изображений для платных пользователей лишь монетизирует возможность создавать вредоносный контент, а не устраняет её, и что требование подписки не мешает злоупотреблять базовой технологией. Позиция Великобритании, поддержанная высокопоставленными политиками, говорит о сдвиге в сторону криминализации не только распространения запрещённых изображений, но и их создания с помощью ИИ-инструментов. Это решение имеет последствия для свободы выражения, ответственности платформ и пределов регулирования.

Поиск баланса между безопасностью, инновациями и гражданскими свободами станет центральной задачей для властей, которые пытаются регулировать ИИ, не подавляя его полезные применения. Для X и более широких ИИ-амбиций Маска через xAI результаты этого расследования могут повлиять на доверие пользователей, политику управления платформой и готовность правительств вводить более строгие обязательства, включая существенные штрафы или ограничения сервиса.

Мировые регуляторы и законодатели, вероятно, будут внимательно следить за действиями Великобритании: они могут создать прецедент для надзора за генеративными ИИ-системами, встроенными в широко используемые социальные платформы.