• Las conversaciones entre el Pentágono y Anthropic se han estancado por las restricciones propuestas al uso de la IA para armas autónomas y vigilancia doméstica.
  • La disputa resalta las tensiones entre las salvaguardas éticas de la IA y las demandas de seguridad nacional en la tecnología emergente del campo de batalla.

Qué pasó

Funcionarios del Departamento de Defensa de EE. UU. y la startup de inteligencia artificial Anthropic llegaron a un punto muerto en las discusiones sobre cómo los modelos de IA de la empresa podrían utilizarse con fines de defensa, según personas familiarizadas con el asunto. El estancamiento surge de un contrato de hasta 200 millones de dólares, en virtud del cual Anthropic ha estado negociando con el Pentágono para ampliar el uso de su tecnología de IA en aplicaciones militares.

El núcleo del desacuerdo se centra en las salvaguardas que impedirían que el gobierno utilice la IA de Anthropic para la selección de objetivos de armas potencialmente autónomas y la vigilancia doméstica sin suficiente supervisión humana. Los funcionarios del Pentágono argumentan que, siempre que las herramientas de IA cumplan con la ley estadounidense, deberían ser ampliamente desplegables para usos de defensa nacional; Anthropic ha mantenido políticas de uso más estrictas diseñadas para evitar daños.

Fuentes dicen que la posición de la empresa sobre las restricciones éticas ha intensificado la fricción con la administración Trump. Anthropic se está preparando para una futura oferta pública y ha buscado activamente influir en la política de IA del gobierno mientras corteja contratos de seguridad nacional.

Anthropic no está sola; fue uno de varios desarrolladores de IA, incluidos Google, OpenAI y xAI de Elon Musk, que obtuvieron contratos del Pentágono el año pasado para desarrollar flujos de trabajo avanzados de IA destinados a misiones de seguridad nacional.

Lea también: https://btw.media/en/allit-infrastructure/tesla-commits-2bn-to-xai-as-cybercab-timeline-reasserted/

Por qué es importante

Esta disputa subraya una tensión fundamental en el despliegue de tecnologías de IA comercial para defensa: cómo equilibrar las salvaguardas éticas con los imperativos operativos de la seguridad nacional. El diseño de IA éticamente cauteloso, como defienden algunos en la industria, enfatiza la supervisión humana y la minimización de daños, principios que pueden entrar en conflicto con los requisitos militares de autonomía, toma rápida de decisiones y efectividad en el campo de batalla.

Desde una perspectiva política, el estancamiento ilustra el creciente desafío para gobiernos y empresas que intentan alinear las capacidades avanzadas de IA con marcos legales, éticos y estratégicos. También plantea dudas sobre si las empresas privadas pueden imponer efectivamente restricciones de uso a la tecnología una vez desplegada en contextos de seguridad nacional.

Los críticos pueden preguntarse si desarrollar IA con restricciones integradas obstaculizará la competitividad o la preparación militar en comparación con estados adversarios que pueden no imponer límites similares. Al mismo tiempo, los defensores de la IA ética argumentan que el uso militar sin restricciones podría erosionar la confianza pública, debilitar las normas democráticas y crear precedentes para la vigilancia doméstica. En cualquier caso, el choque Anthropic-Pentágono es un indicio temprano de cómo las sociedades negociarán el futuro de la IA militar y sus implicaciones más amplias.

Lea también: https://btw.media/en/allit-infrastructure/vertiv-targets-ai-data-center-growth-with-predictive-maintenance/