• Переговоры между Пентагоном и Anthropic заблокированы из-за предлагаемых ограничений на использование ИИ в автономном оружии и внутренней слежке.
  • Спор высвечивает напряжённость между этическими ограничениями в сфере ИИ и требованиями национальной безопасности применительно к новым боевым технологиям.

Что произошло

По словам источников, знакомых с ситуацией, представители Министерства обороны США и стартапа в области искусственного интеллекта Anthropic зашли в тупик в переговорах о том, как модели ИИ компании могут использоваться в оборонных целях. Блокировка связана с контрактом на сумму до 200 миллионов долларов, в рамках которогоAnthropicвёл с Пентагоном переговоры о расширении применения своей технологии ИИ в военных приложениях.

Суть разногласий — в ограничениях, которые не позволили бы правительству использовать ИИ Anthropic для наведения потенциально автономного оружия и внутренней слежки без достаточного контроля со стороны человека. Как утверждается, представители Пентагона считают, что если инструменты ИИ соответствуют законодательству США, их можно широко применять в интересах национальной обороны; Anthropic же придерживается более строгих правил использования, направленных на предотвращение возможного вреда.

По данным источников, позиция компании по этическим ограничениям усилила трения с администрацией Трампа. Anthropic готовится к будущему IPO и активно пытается влиять на государственную политику в области ИИ, одновременно добиваясь контрактов в сфере национальной безопасности.

Anthropic в этом не одинока: она входит в число нескольких разработчиков ИИ, включая Google, OpenAI и xAI Илона Маска, которые в прошлом году получили контракты Пентагона на разработку продвинутых рабочих процессов ИИ для миссий национальной безопасности.

Читайте также:https://btw.media/en/allit-infrastructure/tesla-commits-2bn-to-xai-as-cybercab-timeline-reasserted/

Почему это важно

Этот спор высвечивает фундаментальное противоречие в применении коммерческих технологий ИИ в оборонных целях: как совместить этические ограничения с операционными задачами национальной безопасности. Этически осторожный подход к ИИ, которого придерживаются некоторые игроки отрасли, делает упор на контроль со стороны человека и минимизацию вреда — принципы, которые могут вступать в конфликт с военными требованиями автономности, быстрого принятия решений и эффективности на поле боя.

С политической точки зрения тупик иллюстрирует растущую сложность для правительств и компаний, пытающихся согласовать передовые возможности ИИ с правовыми, этическими и стратегическими рамками. Он также ставит вопрос о том, могут ли частные компании эффективно навязывать ограничения на использование технологии, когда она уже развёрнута в контексте национальной безопасности.

Критики могут спросить, не помешает ли разработка ИИ со встроенными ограничениями конкурентоспособности или боевой готовности по сравнению с государствами-противниками, которые могут не вводить подобных ограничений. В то же время сторонники этичного ИИ утверждают, что неограниченное военное применение может подорвать доверие общества, ослабить демократические нормы и создать прецеденты для внутренней слежки. Так или иначе, противостояние Anthropic и Пентагона — предвестник того, как общества будут определять будущее военного ИИ и его более широкие последствия.

Читайте также:https://btw.media/en/allit-infrastructure/vertiv-targets-ai-data-center-growth-with-predictive-maintenance/