Anthropic respalda el Proyecto Glasswing con 100 millones de dólares, después de que el modelo Claude encontrara miles de fallos de software de alta gravedad. El enfoque de múltiples proveedores señala un cambio hacia estándares de seguridad de IA para toda la industria. ¿Qué ocurrió? El Proyecto Glasswing reúne a las principales empresas tecnológicas para probar herramientas avanzadas de seguridad de IA, después de que los modelos expusieran miles de vulnerabilidades críticas. La empresa de IA Anthropic ha fortalecido sus asociaciones con Nvidia y Cisco a través de su nueva iniciativa de ciberseguridad, el Proyecto Glasswing.
El programa reúne a los principales actores tecnológicos, incluidos Amazon Web Services y Microsoft (nube), Google y Apple (plataformas), Nvidia (computación) y Cisco (redes). Proporciona acceso controlado al modelo Claude Mythos Preview de Anthropic para pruebas de seguridad defensiva. El modelo se centra en la detección de vulnerabilidades y el fortalecimiento de sistemas. Anthropic afirmó que ya ha identificado miles de fallos de alta gravedad en software e infraestructura ampliamente utilizados.
Cisco aporta capacidades de redes y seguridad, mientras que Nvidia respalda la capa de computación necesaria para ejecutar modelos de IA a gran escala. Juntos, los socios están probando cómo la IA puede proteger entornos empresariales complejos. Anthropic respalda la iniciativa con hasta 100 millones de dólares en créditos de uso y financiación adicional para trabajos de seguridad de código abierto. También planea extender la participación a docenas de organizaciones que gestionan infraestructuras críticas. El esfuerzo va más allá de las asociaciones bilaterales.
Señala un enfoque coordinado de múltiples proveedores para incorporar la seguridad directamente en el desarrollo y la implementación de la IA. Por qué es importante La seguridad de la IA está entrando en una fase de coalición, donde los principales proveedores se alinean para definir estándares para la implementación empresarial y el control de riesgos. El Proyecto Glasswing apunta a la formación de una «alianza de seguridad de la IA» en la práctica. Los principales proveedores ya no actúan solos. Se están coordinando a través de las capas de computación, redes y software. Este cambio refleja el creciente riesgo sistémico de la IA generativa.
Las vulnerabilidades ahora abarcan modelos, evidencias de fuentes públicas de datos e infraestructura de red. Ningún proveedor puede gestionar esto por sí solo. Al alinear la computación de Nvidia, las redes de Cisco y los modelos de Anthropic, la iniciativa avanza hacia estándares de seguridad integrados. Estos estándares probablemente darán forma a cómo las empresas implementan y gobiernan los sistemas de IA. El enfoque también ayuda a equilibrar la capacidad y el control. Los modelos avanzados pueden detectar vulnerabilidades a escala, pero requieren salvaguardias para prevenir el uso indebido.
A largo plazo, este tipo de alianzas pueden definir el panorama competitivo. Las empresas integradas en estos ecosistemas influirán no solo en la tecnología, sino también en las reglas que rigen la seguridad de la IA. Lea también: Broadcom y Google cierran un acuerdo a largo plazo sobre chips de IA personalizados Lea también: Australia recurre a Anthropic para la seguridad de la IA y el impulso de datos económicos