- El CEO de OpenAI, Sam Altman, ha anunciado que la empresa está trabajando con el Instituto de Seguridad de la IA para proporcionar a la organización acceso temprano a su próximo gran modelo de IA generativa para pruebas de seguridad.
- OpenAI se ha comprometido a eliminar las cláusulas restrictivas de no menosprecio, crear un comité de seguridad y dedicar el 20% de sus recursos informáticos a la investigación de seguridad.
NUESTRA OPINIÓN
OpenAI ha anunciado una asociación con el Instituto de Seguridad de la IA de EE. UU. para proporcionar acceso temprano a sus próximos modelos avanzados de IA generativa para pruebas de seguridad exhaustivas. La medida pretende responder a las preocupaciones de que podría estar descuidando los problemas de seguridad en su búsqueda de tecnologías de IA más potentes, y muestra la postura proactiva de OpenAI en la investigación de la seguridad de la IA. Mientras tanto, el gasto de la empresa en actividades de cabildeo federal ha aumentado significativamente este año, lo que sugiere que OpenAI se esfuerza por desempeñar un papel más importante en la formulación de políticas nacionales de IA para garantizar que el desarrollo de su tecnología vaya a la par con los estándares de seguridad.
-Rae Li, reportero de BTW
Lo que sucedió
Sam Altman, CEO de OpenAI, afirma que la empresa está trabajando con el Instituto de Seguridad de la IA de EE. UU. para proporcionar acceso temprano a sus próximos modelos avanzados de IA generativa para pruebas de seguridad exhaustivas. La medida pretende responder a las preocupaciones de que podría estar descuidando los problemas de seguridad en su búsqueda de tecnologías de IA más potentes, e indica la postura proactiva de OpenAI en la investigación de la seguridad de la IA. Al mismo tiempo, el gasto de la empresa en actividades de cabildeo federal ha aumentado significativamente este año, lo que demuestra que OpenAI se esfuerza por desempeñar un papel más importante en la formulación de políticas nacionales de IA para garantizar que el desarrollo de su tecnología vaya a la par con los estándares de seguridad.
OpenAI se ha comprometido a eliminar las cláusulas restrictivas de no menosprecio, establecer un comité de seguridad y dedicar el 20% de sus recursos informáticos a la investigación de seguridad. Estas medidas están diseñadas para fortalecer los procesos internos de investigación y desarrollo de seguridad de la empresa para garantizar la seguridad y fiabilidad de la tecnología de IA. Mientras tanto, Jason Kwon, director de estrategia de OpenAI, responde a las preguntas de los cinco senadores sobre las políticas de la empresa, desarrollando el compromiso de la empresa de implementar protocolos de seguridad estrictos en cada etapa.
Lea también: Coinbase añade tres miembros a su junta, incluido un ejecutivo de OpenAI
Lea también: SearchGPT de OpenAI: Desafiando el dominio de búsqueda de Google
Por qué es importante
La colaboración de OpenAI con el Instituto de Seguridad de la IA de EE. UU. y su enfoque en las pruebas de seguridad indican la creciente preocupación de la industria de la IA por los problemas de seguridad y ética junto con el rápido desarrollo tecnológico. Esta colaboración ayudará a aumentar la confianza pública en la seguridad de la tecnología de IA y establecerá nuevos estándares y normas para el desarrollo saludable de la tecnología de IA. Al trabajar estrechamente con agencias gubernamentales, OpenAI ha desarrollado su liderazgo en seguridad de la IA y su compromiso con la responsabilidad de la industria.
La mayor inversión de OpenAI en actividades de cabildeo federal y su compromiso con la investigación de seguridad de la IA revelan la participación activa e influencia de la empresa en el proceso de formulación de políticas de IA. A través de estas iniciativas, OpenAI intenta garantizar que los avances tecnológicos vayan acompañados de su impacto positivo en la sociedad.