- El acuerdo, el primero de su tipo, se produce mientras las dos empresas enfrentan un escrutinio regulatorio sobre el uso seguro y ético de la tecnología de IA.
- El instituto, parte del Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU., también trabajará con el Instituto de Seguridad de la IA del Reino Unido y proporcionará retroalimentación a las empresas sobre posibles mejoras de seguridad.
NUESTRA OPINIÓN
Las startups de IA OpenAI y Anthropic han firmado un acuerdo con el gobierno de EE. UU. para realizar investigaciones, pruebas y evaluaciones de sus modelos de IA, un movimiento destinado a evaluar conjuntamente los riesgos de seguridad y mitigar posibles problemas a través de canales regulatorios para mitigar los riesgos potencialmente catastróficos que enfrenta la IA.
— Iydia Ding, reportera de BTW
¿Qué sucedió?
Los legisladores de California se disponen a votar tan pronto como esta semana un proyecto de ley que regularía ampliamente cómo se desarrolla y despliega lainteligencia artificialen el estado. Las startups de inteligencia artificialOpenAIyAnthropichan firmado acuerdos con el gobierno de EE. UU. para realizar investigaciones, pruebas y evaluaciones de sus modelos de inteligencia artificial, informó el Instituto de Seguridad de Inteligencia Artificial el jueves. Según el acuerdo, el Instituto de Seguridad de la IA tendrá acceso a los nuevos modelos importantes de OpenAI y Anthropic antes y después de sus lanzamientos públicos. El acuerdo también permitirá la investigación colaborativa para evaluar las capacidades de los modelos de IA y los riesgos asociados con ellos.
“Creemos que el Instituto tiene un papel clave que desempeñar en la definición del liderazgo estadounidense. Desarrollar la IA de manera responsable y esperamos que nuestra colaboración proporcione un marco sobre el cual el resto del mundo pueda construir”, dijo Jason Kwon, director de estrategia de OpenAI, creador de ChatGPT.
Lea también:El modelo de IA mejorado de Baidu alcanza los 300 millones de usuarios
Lea también:Character.AI presenta una nueva función de llamada
Por qué es importante
El acuerdo, el primero de su tipo, se produce mientras las dos empresas enfrentan un escrutinio regulatorio sobre el uso seguro y ético de la tecnología de IA.
“Estos acuerdos son solo un comienzo, pero son un hito importante mientras trabajamos para ayudar a gestionar el futuro de la IA de manera responsable”, dijo Elizabeth Kelly, presidenta del Instituto de Seguridad de la IA de EE. UU. El instituto, parte del Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU., también trabajará con el Instituto de Seguridad de la IA del Reino Unido y proporcionará retroalimentación a las empresas sobre posibles mejoras de seguridad.
El Instituto de Seguridad de la IA de EE. UU. se estableció el año pasado como parte de una orden ejecutiva de la administración de Joe Biden para evaluar los riesgos conocidos y emergentes de los modelos de IA. Este modelo de colaboración puede ayudar a los reguladores a comprender mejor el desarrollo de la tecnología de IA, para que se puedan formular políticas y regulaciones más adaptables y efectivas.