• Индонезия ссылается на риск сексуализированных дипфейков, создаваемых ИИ, для оправдания блокировки Grok.
  • Правительства и надзорные органы всё чаще требуют усиленных мер защиты для инструментов генеративного ИИ.

Что произошло:Страна блокирует чат-бот из-за откровенных изображений

Министерство связи и цифровых технологий Индонезии 10 января 2026 года временно заблокировало доступ к Grok — чат-боту на основе ИИ, разработанному xAI, компанией Илона Маска. Это решение последовало за сообщениями о том, что генерация изображений в Grok использовалась длясоздания не согласованных сексуализированных дипфейков, включая откровенные изображения женщин и несовершеннолетних.

Министр Меутья Хафид заявила, что запрет направлен на защиту женщин, детей и общественности от вреда, связанного с порнографическим контентом, создаваемым ИИ. Действия Индонезии делают её первой страной в мире, введшей такое ограничение на Grok.

В ответ на мировую критику xAI ограничила функции генерации и редактирования изображений в Grok для платных пользователей, пока устраняются уязвимости безопасности. Однако некоторые сообщения позволяют предположить, что ограничительные меры могут не полностью блокировать доступ к инструментам работы с изображениями на всех платформах.

Почему это важно

Этот инцидент отражает растущее глобальное беспокойство по поводу быстрого внедрения генеративного ИИ без надёжных мер безопасности.Страны всё чаще оказываются под давлением, вынуждающим искать баланс между инновациями, цифровыми правами и защитой общественности.

Действия Индонезии побудили к аналогичным мерам в других странах. Малайзия также ввела временные ограничения доступа к Grok, сославшись на неоднократные злоупотребления. Тем временем регуляторы Европейского союза и Великобритании изучают риски, связанные с дипфейками и вредоносным контентом, создаваемым ИИ.

Критики утверждают, что простое ограничение доступа или предоставление некоторых функций только платным пользователям недостаточно устраняет базовые недостатки безопасности. Некоторые исследователи предупреждают, что массовое создание откровенных дипфейков может нормализовать вредоносный контент и затруднить работу правоохранительных органов.

Этот эпизод может привести к ужесточению рамок регулирования ИИ и поднять более широкие вопросы о том, как компании управляют инструментами, способными создавать реалистичный, но вредоносный контент. Соответствие требованиям, правоприменение и ответственность пользователей останутся в центре будущих политических дискуссий.

Читайте также:ЕС продлевает до 2026 года действие требования о хранении записей ИИ Grok от X
Читайте также:xAI Илона Маска привлекает 20 миллиардов долларов на фоне растущей критики из-за дипфейков Grok