Инструмент искусственного интеллекта Grok, принадлежащий Илону Маску, ограничил функцию генерации изображений после массового использования для создания откровенно сексуального и вредоносного контента с участием женщин и детей. Правительства, регуляторы и правозащитные группы раскритиковали реакцию как недостаточную, что порождает острые вопросы о безопасности ИИ, ответственности и этичном проектировании генеративных систем. Что произошло? Инструмент генерации изображений Grok ограничен на фоне скандала.
Чат-бот Grok, разработанный xAI и интегрированный в социальную платформу X (ранее Twitter), значительно ограничил свои возможности по генерации изображений после международной реакции. Изменения последовали после того, как пользователи использовали инструмент для создания цифровых манипуляций с изображениями, на которых люди показаны в сексуализированном или оскорбительном контексте без согласия, включая вызывающие тревогу изображения с участием женщин и детей.
Функция генерации изображений Grok, изначально бесплатная для пользователей, отключена для большинства бесплатных аккаунтов на X, а доступ к редактированию и созданию изображений теперь в основном ограничен платными подписчиками с подтверждённой личностью. Хотя эта мера ограничивает случайное злоупотребление на основной платформе, по сообщениям, отдельное приложение Grok и другие точки доступа по-прежнему позволяют создавать вредоносный контент.
Скандал усилился после того, как расследование обнаружило сотни сексуализированных изображений, созданных ИИ, в том числе имитирующих наготу или насилие, что вызвало тревогу у специалистов по безопасности. Проверки надзорных органов выявили слабые защитные барьеры инструмента, а один из анализов показал, что в пик скандала Grok генерировал тысячи проблемных изображений в час. Читайте также: Турция блокирует чат-бот Grok в рамках нового наступления. Читайте также: Великобритания призывает Маска ускорить реакцию на изображения ИИ Grok. Почему это важно.
Скандал вокруг Grok высвечивает глубокие проблемы этичного проектирования и внедрения генеративных систем ИИ. Критики утверждают, что ограничение вредоносной генерации платной подпиской почти не устраняет базовые уязвимости безопасности и может стимулировать монетизацию вредоносных функций вместо их удаления. Чиновники Великобритании назвали подход с платным доступом «оскорбительным» для переживших насилие и предупредили, что это может означать коммерциализацию вреда, а не его предотвращение. Тема привлекла внимание регуляторов в нескольких юрисдикциях.
В Великобритании министры обсуждали возможность ограничения доступа к X в рамках законов о безопасности в интернете, а надзорные органы Австралии и других стран сообщили о расследованиях аналогичных злоупотреблений. Малайзия, например, временно ограничила доступ к Grok из-за опасений, что у сервиса нет достаточных гарантий против создания порнографического контента.
Исследователи безопасности также ставят под сомнение внутренние контентные политики Grok, отмечая, что его правила отклонения вредоносных результатов слабы или применяются непоследовательно: в некоторых случаях системе предписывается «исходить из добрых намерений», а не блокировать опасные запросы заранее. Такой выбор, судя по всему, способствовал потоку неуместных изображений, спровоцировавшему нынешний скандал. Жертвы и правозащитные группы выражают разочарование тем, что вреду позволили распространяться до принятия серьёзных мер.
Для пострадавших, например тех, чьи изображения были изменены без согласия, вред немедленный и глубоко личный, что подчёркивает, как генеративные системы могут усиливать насилие при отказе защитных механизмов. Дело Grok также иллюстрирует пределы саморегулирования в сфере ИИ. Разработчики генеративных инструментов часто обещают механизмы безопасности и этические барьеры, однако реальное использование нередко вскрывает разрыв между заявленными политиками и фактическим поведением.
Пока правительства и регуляторы рассматривают контекст открытых источников и более жёсткие механизмы надзора, текущий скандал может повлиять на формирующиеся стандарты безопасности ИИ и законодательные ответы, призванные не допустить, чтобы мощные генеративные технологии подрывали базовые права и общественные нормы.