- EE.UU. y el Reino Unido han firmado un acuerdo bilateral pionero para desarrollar conjuntamente pruebas de seguridad para evaluar sistemas de IA.
- El Memorando de Entendimiento firmado por la Secretaria de Comercio de EE.UU., Gina Raimondo, y la Secretaria de Tecnología del Reino Unido, Michelle Donelan facilita el intercambio de información y conocimiento técnico sobre los riesgos y las medidas de seguridad de los modelos de IA.
- Los Institutos de Seguridad de IA de ambos países colaborarán bajo este acuerdo para establecer medidas y directrices de pruebas de seguridad, con el objetivo de abordar las preocupaciones de seguridad nacional y los impactos sociales más amplios asociados con la IA.
Estados Unidos y el Reino Unido se han comprometido a desarrollar colaborativamente pruebas para evaluar la seguridad de los sistemas de IA, lo que marca un acuerdo bilateral sin precedentes.
Acuerdo bilateral para mejorar las pruebas de seguridad de la IA
La Secretaria de Comercio de EE.UU., Gina Raimondo, y la Secretaria de Tecnología del Reino Unido, Michelle Donelan, han firmado un Memorando de Entendimiento destinado a facilitar el intercambio de información y experiencia técnica sobre los riesgos asociados con los modelos de IA y sus medidas de seguridad entre ambas naciones.
Lea también: El sistema de seguridad de Microsoft puede detectar alucinaciones en sus aplicaciones de IA
Este anuncio se produce tras la introducción de nuevos requisitos para las agencias federales de EE.UU. con respecto al uso responsable de la IA.
Bajo este acuerdo, los Institutos de Seguridad de IA dedicados de ambas naciones cooperarán en el establecimiento de medidas para las pruebas de seguridad.
Raimondo enfatizó: “Esta asociación acelerará los esfuerzos de nuestros respectivos Institutos en una amplia gama de riesgos, ya sea relacionados con nuestra seguridad nacional o con la sociedad en general. Nuestra colaboración subraya nuestro compromiso de enfrentar estas preocupaciones de frente en lugar de evadirlas.”
Tras la Cumbre de Seguridad de la IA del año pasado, tanto EE.UU. como el Reino Unido establecieron institutos de seguridad de IA con la tarea de formular directrices y puntos de referencia para evaluar los riesgos de la IA.
Los investigadores del Instituto de Seguridad de IA de EE.UU. (U.S. AISI) colaborarán con sus homólogos del Reino Unido para desarrollar un enfoque unificado para las pruebas de seguridad de la IA.
Aunque se ha anunciado que se realizarán ejercicios conjuntos de pruebas en modelos de acceso público, no se ha proporcionado un plazo específico para estas actividades.
Aspectos clave de la colaboración entre EE.UU. y el Reino Unido
Según la Secretaria de Tecnología del Reino Unido, Michelle Donelan, este acuerdo representa un modelo fundamental para fortalecer el vínculo entre las dos naciones al abordar “el desafío tecnológico definitorio de nuestra generación”.
Donelan comentó: “Hemos enfatizado constantemente que garantizar el desarrollo seguro de la IA es una preocupación global compartida. Solo mediante esfuerzos colaborativos podemos abordar directamente los riesgos asociados con esta tecnología y aprovechar su inmenso potencial para mejorar nuestras vidas.”
Estas pruebas son un resultado directo de la asociación de IA entre EE.UU. y el Reino Unido y podrían ofrecer una valiosa ayuda a las startups, como señaló Ekaterina Almasque, socia general de la firma de capital de riesgo OpenOcean.
Almasque declaró: “Las startups de IA a menudo enfrentan desafíos para navegar por el intrincado panorama de la seguridad y la ética, como adquirir datos de entrenamiento éticos a un costo razonable, lo que puede obstaculizar su capacidad para innovar, expandirse y desarrollar productos competitivos. Esta colaboración establece un marco para abordar estos obstáculos, brindando orientación y apoyo para ayudar a las startups a desarrollar tecnologías de IA de manera responsable y segura.”