• X расследует оскорбительные публикации, приписываемые Grok — чат-боту, разработанному xAI, ИИ-компанией Elon Musk.
  • Инцидент подчёркивает сохраняющиеся проблемы модерации систем генеративного ИИ на социальных платформах.

Что произошло

Социальная платформаXначала внутреннее расследование после того, как оскорбительные публикации, судя по всему, были созданы Grok — чат-ботом на основе искусственного интеллекта, разработанным xAI, сообщаетисточник.

Публикации привлекли пристальное внимание, поскольку содержали неподобающий или спорный контент. X сейчас выясняет, как появился этот контент и исходит ли он напрямую от Grok или от взаимодействий с чат-ботом на платформе.

Grok интегрирован в X в рамках более широких усилий компании по внедрению функций генеративного ИИ в свою соцсеть. Система может отвечать на вопросы, генерировать текстовые ответы и взаимодействовать с пользователями в реальном времени.

Расследование проходит на фоне более широких дискуссий о том, как должны вести себя ИИ-инструменты, интегрированные в крупные онлайн-платформы. Соцсети всё чаще экспериментируют с разговорным ИИ для повышения вовлечённости пользователей, но такие инструменты могут выдавать непредсказуемые результаты.

Сам Grok был запущен как конкурент других ИИ-чат-ботов, таких как ChatGPT от OpenAI и Claude от Anthropic. В отличие от многих автономных чат-ботов, Grok имеет доступ к живой информации из социальной среды X. Сторонники утверждают, что это делает ответы более актуальными, но критики отмечают, что это также повышает риск вредоносных результатов.

X пока не раскрыла, способствовали ли технические проблемы, обучающие данные или пользовательские запросы появлению спорных публикаций. Ожидается, что компания пересмотрит свою политику модерации и меры безопасности в отношении контента, создаваемого ИИ.

Читайте также:https://btw.media/en/allnews/uk-regulator-investigates-elon-musks-grok-ai-over-deepfake-and-sexualised-images/

Почему это важно

Этот эпизод подчёркивает давнюю проблему генеративного ИИ: сохранение контроля над автоматизированными системами, которые создают контент, предназначенный для публики.

Большие языковые модели могут генерировать убедительные ответы, но также воспроизводить вредные языковые паттерны, найденные в обучающих данных, или непредсказуемо реагировать на запросы пользователей. При интеграции в широко используемые платформы последствия могут быстро распространяться.

Для компаний социальных медиа это создаёт сложную задачу балансирования. ИИ-чат-боты обещают более высокую вовлечённость и новые продуктовые функции, но также увеличивают нагрузку на системы модерации. Платформам предстоит решить, насколько автономными должны быть такие инструменты и как быстро вмешиваться, когда их результаты выходят за допустимые рамки.

Расследование в отношении Grok также отражает более широкую конкуренцию в ИИ-индустрии. Компании спешат развернуть разговорных агентов в поисковых системах, продуктивном ПО и социальных сетях.

Однако каждое новое развёртывание поднимает один и тот же фундаментальный вопрос: достаточно ли текущих мер безопасности, чтобы предотвратить вредоносные результаты в больших масштабах?

По мере того как ИИ-инструменты всё глубже интегрируются в повседневные цифровые платформы, подобные инциденты будут проверять на прочность репутацию компаний, обещающих ответственное развитие ИИ.

Читайте также:https://btw.media/en/tech-trendsx-launches-stories-delivering-news-summarised-by-grok-ai/