Anthropic soutient le projet Glasswing avec 100 millions de dollars, après que le modèle Claude a découvert des milliers de failles logicielles de haute sévérité. L'approche multi-fournisseurs signale un changement vers des normes de sécurité de l'IA à l'échelle de l'industrie. Ce qui s'est passé Le projet Glasswing rassemble les grandes entreprises technologiques pour tester des outils de sécurité de l'IA avancés, après que des modèles ont exposé des milliers de vulnérabilités critiques. La société d'IA Anthropic a renforcé ses partenariats avec Nvidia et Cisco via sa nouvelle initiative de cybersécurité, le projet Glasswing.
Le programme réunit des acteurs technologiques majeurs, notamment Amazon Web Services et Microsoft (cloud), Google et Apple (plateformes), Nvidia (calcul) et Cisco (réseau). Il fournit un accès contrôlé au modèle Claude Mythos Preview d'Anthropic pour des tests de sécurité défensifs. Le modèle se concentre sur la détection de vulnérabilités et le renforcement des systèmes. Anthropic a déclaré avoir déjà identifié des milliers de failles de haute sévérité dans des logiciels et infrastructures largement utilisés.
Cisco apporte des capacités de réseau et de sécurité, tandis que Nvidia soutient la couche de calcul nécessaire pour exécuter des modèles d'IA à grande échelle. Ensemble, les partenaires testent comment l'IA peut sécuriser des environnements d'entreprise complexes. Anthropic finance l'initiative avec jusqu'à 100 millions de dollars en crédits d'utilisation et un financement supplémentaire pour des travaux de sécurité open-source. L'entreprise prévoit également d'étendre la participation à des dizaines d'organisations gérant des infrastructures critiques. L'effort va au-delà des partenariats bilatéraux.
Il signale une approche coordonnée et multi-fournisseurs pour intégrer la sécurité directement dans le développement et le déploiement de l'IA. Pourquoi c'est important La sécurité de l'IA entre dans une phase de coalition, où les principaux fournisseurs s'alignent pour définir des normes de déploiement en entreprise et de contrôle des risques. Le projet Glasswing indique la formation d'une « alliance pour la sécurité de l'IA » en pratique. Les principaux fournisseurs n'agissent plus seuls. Ils coordonnent leurs efforts à travers les couches de calcul, de réseau et de logiciels.
Ce changement reflète l'augmentation du risque systémique lié à l'IA générative. Les vulnérabilités couvrent désormais les modèles, les preuves de sources publiques de données et l'infrastructure réseau. Aucun fournisseur ne peut gérer cela seul. En alignant le calcul de Nvidia, le réseau de Cisco et les modèles d'Anthropic, l'initiative progresse vers des normes de sécurité intégrées. Ces normes façonneront probablement la manière dont les entreprises déploient et gouvernent les systèmes d'IA. L'approche aide également à équilibrer capacité et contrôle.
Les modèles avancés peuvent détecter des vulnérabilités à grande échelle, mais nécessitent des garde-fous pour prévenir les abus. À long terme, de telles alliances pourraient définir le paysage concurrentiel. Les entreprises intégrées dans ces écosystèmes influenceront non seulement la technologie, mais aussi les règles régissant la sécurité de l'IA. À lire aussi: Broadcom et Google concluent un accord à long terme sur des puces d'IA personnalisées À lire aussi: L'Australie fait appel à Anthropic pour la sécurité de l'IA et la promotion des données économiques