- Gigantes tecnológicos, incluidos OpenAI, Google, Microsoft y Nvidia, han formado CoSAI para mejorar la seguridad de las aplicaciones de IA.
- CoSAI desarrollará marcos de mitigación de riesgos, simplificará la gestión de ciberseguridad de IA y abordará las vulnerabilidades de la cadena de suministro a través de tres iniciativas de código abierto.
NUESTRA OPINIÓN
El lanzamiento de CoSAI por los gigantes tecnológicos representa una postura proactiva en seguridad de IA, abordando vulnerabilidades y fomentando un entorno colaborativo para la innovación y las mejores prácticas. Al enfrentar de manera cohesiva el fragmentado panorama de la seguridad de la IA, esta alianza busca preparar los sistemas de IA para el futuro, manteniendo su solidez y resiliencia en un entorno digital en constante evolución.
–Vicky Wu, reportera de BTW
Qué sucedió
Los principales gigantes tecnológicos se han unido para establecer la Coalition for Secure AI (CoSAI), un consorcio de ciberseguridad destinado a reforzar la seguridad de las aplicaciones de inteligencia artificial. Anunciado en elAspen Security Forum, CoSAI operará bajo OASIS, una organización sin fines de lucro que supervisa proyectos de software de código abierto centrados en mejorar la ciberseguridad.
Los miembros fundadores de CoSAI incluyen titanes de la industria como OpenAI,Anthropic, AWS, Microsoft, Google, Nvidia, Intel, IBM, Cisco, PayPal, Wiz y Chainguard. Su misión conjunta es doble: desarrollar herramientas y directrices para proteger las aplicaciones de IA, y cultivar un ecosistema para compartir mejores prácticas y tecnologías en ciberseguridad de IA.
CoSAI está inaugurando tres flujos de trabajo de código abierto para cumplir estos objetivos. En primer lugar, CoSAI planea desarrollar un marco que ayude a los equipos de software a identificar y mitigar riesgos de ciberseguridad en cargas de trabajo de aprendizaje automático, incorporando una taxonomía de vulnerabilidades comunes y métodos de corrección, junto con un cuadro de mando de ciberseguridad para monitoreo continuo. En segundo lugar, la coalición busca simplificar la gestión de riesgos de ciberseguridad de IA mediante la identificación de inversiones estratégicas y el despliegue de técnicas de mitigación.
Por último, abordar los riesgos de la cadena de suministro de software es una prioridad, con un enfoque en agilizar el análisis de vulnerabilidades en componentes externos obtenidos de repositorios como GitHub en proyectos complejos.
Lea también:El proyecto ‘Strawberry’ de OpenAI avanza en el razonamiento de IA
Lea también:Google y Microsoft ofrecen chips de IA de Nvidia a China
Por qué es importante
La formación de coaliciones como CoSAI ejemplifica un despertar colectivo a la importancia primordial de la seguridad de la IA. Impulsadas por la responsabilidad compartida, las grandes corporaciones se unen para combatir los desafíos únicos de seguridad de la IA. Al amalgamar recursos, estas entidades pueden abordar colectivamente las vulnerabilidades intrínsecas de la IA, mitigando eficazmente amenazas sofisticadas como entradas adversarias y brechas de datos.
La aceleración de la innovación, impulsada por la colaboración interorganizacional, impulsa las tecnologías y técnicas de seguridad, aprovechando la experiencia colectiva para lograr avances. El cumplimiento normativo y el fomento de la confianza pública también son fundamentales. Las empresas pueden influir positivamente en las políticas y tranquilizar a los usuarios, aumentando su confianza en las tecnologías de IA al demostrar su compromiso con la seguridad de la IA.
“Hemos estado usando IA durante muchos años y vemos el potencial continuo para los defensores, pero también reconocemos sus oportunidades para los adversarios”, dijo Heather Adkins, vicepresidenta de seguridad de Google, en un comunicado. “CoSAI ayudará a las organizaciones, grandes y pequeñas, a integrar la IA de forma segura y responsable, ayudándoles a aprovechar sus beneficios mientras mitigan los riesgos”.