• xAI, компания Илона Маска в сфере искусственного интеллекта, привлекла 20 миллиардов долларов в ходе крупного раунда финансирования, в то время как её чат-бот Grok подвергается мировой критике за генерацию сексуализированных изображений и изображений без согласия.
  • Регуляторы и группы гражданского общества требуют более строгого контроля за модерацией контента с помощью ИИ, отмечая более широкие опасения по поводу безопасности и управления платформами.

Что произошло: рекордное финансирование xAI и негативная реакция на Grok

КомпанияИлона Маскапо разработке ИИ, xAI, объявила о привлечении 20 миллиардов долларов, оценив компанию примерно в 250 миллиардов долларов. Это важный шаг в её гонке за конкурентоспособность во всё более конкурентной отрасли искусственного интеллекта. Раунд привлёк поддержку крупных инвесторов и подчёркивает сохраняющееся доверие к инновациям в сфере ИИ и их коммерческому потенциалу.

В центре публичного образаxAI— её чат-бот Grok с искусственным интеллектом, интегрированный в социальную платформу Маска X (ранее Twitter). Изначально позиционировавшийся как ИИ-компаньон, способный вести разговоры и выполнять творческие задачи, Grok вызвал волну критики в связи с генерацией контента. Критики утверждают, что пользователи использовали систему для создания сексуализированных изображений женщин и несовершеннолетних без их согласия, в том числе с помощью запросов на X, которые манипулируют фотографиями или генерируют откровенные изображения.

Недавний отчёт Internet Watch Foundation (IWF) показал, как функция генерации изображений Grok использовалась для создания крайне тревожных материалов, включая контент, похожий на изображения сексуального насилия над детьми. Надзорная организация описала пользователей форума в даркнете, хваставшихся методами создания такого контента, что также вызвало призывы к срочному вмешательству регуляторов.

Объявление о финансировании прозвучало в период усиленного надзора. В Великобритании комитет Палаты общин по делам женщин и равенству выразил серьёзную обеспокоенность по поводу распространения откровенного контента, созданного ИИ, на X и рассматривает меры от штрафов до ограничений платформы. В Европейском союзе регуляторы предписали X сохранять все документы, касающиеся Grok, до конца 2026 года в рамках проверок соответствия Digital Services Act.

Читайте также:Tesla заключила с Samsung контракт на чипы на 16,5 млрд долларов
Читайте также:Бразилия предупреждает, что автопроизводители могут остановить производство в течение нескольких недель

Почему это важно

Соседство огромного раунда финансирования xAI и скандала вокруг Grok иллюстрирует центральное напряжение в современном ландшафте ИИ. С одной стороны, инвесторы вкладывают деньги в передовые ИИ-компании в поисках преобразующих технологий и коммерческой отдачи. С другой — социальные и этические последствия этих технологий поднимают насущные вопросы надзора, ответственности и безопасности.

Технология дипфейков и генерация изображений быстро развиваются, и способность Grok создавать откровенный и манипулированный контент выявила слабости существующих систем модерации. Это перекликается с более широкими опасениями экспертов по ИИ, которые утверждают, что многие генеративные модели при обучении на нефильтрованных данных или при недостаточных ограничениях безопасности могут давать вредные результаты. Как сказал один исследователь ИИ в недавнем анализе аналогичных технологий: «модели отражают данные, на которых они обучены», и без надёжных гарантий даже мощные системы могут генерировать оскорбительный контент.

Регуляторы в нескольких юрисдикциях уже вмешиваются. Распоряжение Европейской комиссии сохранять документы, касающиеся Grok, позволяет предположить, что она готовится к более пристальной проверке соответствия xAI Digital Services Act, особенно в части незаконного и вредоносного контента на таких платформах, как X. Аналогичным образом призывы Министерства электроники и информационных технологий Индии к плану действий подчёркивают глобальный характер регуляторных опасений по поводу модерации контента с помощью ИИ.

Для пользователей и групп гражданского общества основные проблемы не только коммерческие. Они связаны с доверием, безопасностью и реальным воздействием систем ИИ, которые могут использоваться для создания вредоносных материалов. Вмешательство IWF, например, подчёркивает опасность того, что ИИ делает такой контент более доступным и распространённым, потенциально обходя традиционные механизмы защиты детей от сексуальной эксплуатации.

Критики также задаются вопросом, не опередила ли гонка за монетизацией ИИ разработку ответственных структур управления. Если крупные платформы не смогут эффективно модерировать мощные генеративные инструменты, последствия могут выйти за рамки отдельных инцидентов и привести к более широкому вреду, затрагивающему уязвимые группы и общественный дискурс.