- El CEO de OpenAI, Sam Altman, anunció una colaboración con el Instituto de Seguridad de IA de EE. UU. para pruebas tempranas de seguridad de su próximo gran modelo de IA generativa.
- La medida sigue a las críticas sobre las prácticas de seguridad de OpenAI y tiene como objetivo demostrar un enfoque renovado en la seguridad de la IA.
NUESTRA OPINIÓN
Esta colaboración destaca la respuesta de OpenAI a las crecientes preocupaciones sobre la seguridad de la IA, con el objetivo de tranquilizar a los críticos y demostrar un compromiso con el desarrollo responsable de la IA. Al trabajar con organismos federales, OpenAI busca equilibrar la innovación con los protocolos de seguridad.
— Zoey Zhu, reportera de BTW
Lo que sucedió
El CEO de OpenAI, Sam Altman, anunció el jueves por la noche que OpenAI está trabajando con el Instituto de Seguridad de IA de EE. UU. para proporcionar acceso temprano a su próximo gran modelo de IA generativa para pruebas de seguridad. El Instituto de Seguridad de IA de EE. UU., que forma parte del Instituto Nacional de Estándares y Tecnología del Departamento de Comercio, tiene como objetivo evaluar y abordar los riesgos en las plataformas de IA. Esta colaboración sigue a un acuerdo similar con el organismo de seguridad de IA del Reino Unido en junio.
OpenAI ha enfrentado críticas por haber restado prioridad a la seguridad de la IA en los últimos meses. En mayo, la empresa disolvió una unidad centrada en desarrollar controles para evitar que los sistemas de IA "superinteligentes" se vuelvan rebeldes. La medida provocó la renuncia de los codirectores de la unidad y generó reacciones negativas de los defensores de la seguridad de la IA. En respuesta, OpenAI ha tomado medidas para abordar estas preocupaciones, incluida la eliminación de cláusulas restrictivas de no menosprecio y el compromiso del 20% de sus recursos informáticos a la investigación de seguridad.
Lea también: OpenAI apoya legislación para dar forma al futuro de la IA
Lea también: OpenAI presenta el modo de voz en tiempo real para ChatGPT
Por qué es importante
La colaboración con el Instituto de Seguridad de IA de EE. UU. significa un esfuerzo de OpenAI para reconstruir la confianza y demostrar un compromiso con la seguridad de la IA. Al proporcionar acceso temprano a su próximo gran modelo de IA generativa para pruebas de seguridad, OpenAI busca garantizar que los riesgos potenciales se identifiquen y mitiguen antes de que el modelo se lance ampliamente.
Esta medida también está sincronizada estratégicamente con el respaldo de OpenAI a la Ley del Futuro de la Innovación (Future of Innovation Act), un proyecto de ley propuesto en el Senado que autorizaría al Instituto de Seguridad de IA como un organismo ejecutivo que establezca estándares y directrices para los modelos de IA. Los mayores esfuerzos de cabildeo de OpenAI y el papel de Altman en la Junta de Seguridad y Protección de la Inteligencia Artificial del Departamento de Seguridad Nacional indican aún más la influencia de la empresa en la formulación de políticas de IA a nivel federal.
La colaboración tiene como objetivo tranquilizar a las partes interesadas y a los críticos de que OpenAI se toma en serio el abordaje de las preocupaciones de seguridad de la IA, equilibrando el desarrollo de potentes tecnologías de IA generativa con protocolos de seguridad sólidos.