• Les pourparlers entre le Pentagone et Anthropic sont bloqués en raison des restrictions proposées sur l'utilisation de l'IA pour les armes autonomes et la surveillance intérieure.
  • Le différend met en évidence les tensions entre les garde-fous éthiques de l'IA et les exigences de sécurité nationale dans les technologies émergentes du champ de bataille.

Ce qui s'est passé

Des responsables du département de la Défense des États-Unis et de la start-up d'intelligence artificielle Anthropic sont dans une impasse dans les discussions sur la manière dont les modèles d'IA de l'entreprise pourraient être utilisés à des fins de défense, selon des personnes proches du dossier. Le blocage découle d'un contrat d'une valeur pouvant atteindre 200 millions de dollars, dans le cadre duquel Anthropic a négocié avec le Pentagone l'extension de l'utilisation de sa technologie d'IA dans des applications militaires.

Le cœur du désaccord porte sur les garde-fous qui empêcheraient le gouvernement d'utiliser l'IA d'Anthropic pour le ciblage d'armes potentiellement autonomes et la surveillance intérieure sans une supervision humaine suffisante. Les responsables du Pentagone soutiendraient que, tant que les outils d'IA sont conformes à la loi américaine, ils devraient pouvoir être largement déployés pour des usages de défense nationale; Anthropic a maintenu des politiques d'utilisation plus strictes conçues pour éviter tout préjudice.

Des sources indiquent que la position de l'entreprise sur les contraintes éthiques a intensifié les frictions avec l'administration Trump. Anthropic se prépare à une future introduction en bourse et a activement cherché à influencer la politique gouvernementale en matière d'IA tout en courtisant les contrats de sécurité nationale.

Anthropic n'est pas seule; elle fait partie de plusieurs développeurs d'IA, dont Google, OpenAI et xAI d'Elon Musk, qui ont obtenu l'année dernière des contrats du Pentagone pour développer des flux de travail d'IA avancés destinés à des missions de sécurité nationale.

À lire aussi: https://btw.media/en/allit-infrastructure/tesla-commits-2bn-to-xai-as-cybercab-timeline-reasserted/

Pourquoi c'est important

Ce différend met en lumière une tension fondamentale dans le déploiement des technologies d'IA commerciales à des fins de défense: comment concilier les garde-fous éthiques avec les impératifs opérationnels de la sécurité nationale. La conception d'IA éthiquement prudente, défendue par certains acteurs du secteur, met l'accent sur la supervision humaine et la minimisation des dommages, des principes qui peuvent entrer en conflit avec les exigences militaires d'autonomie, de prise de décision rapide et d'efficacité sur le champ de bataille.

Du point de vue politique, l'impasse illustre le défi croissant pour les gouvernements et les entreprises qui tentent d'aligner les capacités avancées de l'IA sur les cadres juridiques, éthiques et stratégiques. Elle soulève également la question de savoir si les entreprises privées peuvent efficacement imposer des restrictions d'utilisation à une technologie une fois déployée dans des contextes de sécurité nationale.

Les critiques pourraient se demander si le développement d'une IA avec des restrictions intégrées entravera la compétitivité ou la préparation militaire par rapport aux États adversaires qui n'imposent peut-être pas de limites similaires. Dans le même temps, les défenseurs de l'IA éthique soutiennent qu'un usage militaire sans restriction pourrait éroder la confiance du public, affaiblir les normes démocratiques et créer des précédents en matière de surveillance intérieure.

Dans tous les cas, l'affrontement entre Anthropic et le Pentagone est un signe avant-coureur de la manière dont les sociétés négocieront l'avenir de l'IA militaire et ses implications plus larges.

À lire aussi: https://btw.media/en/allit-infrastructure/vertiv-targets-ai-data-center-growth-with-predictive-maintenance/