- El CEO de OpenAI, Sam Altman, ha dicho que el próximo modelo desarrollado por OpenAI se someterá a controles de seguridad y evaluaciones por parte del Gobierno de EE. UU. antes de su lanzamiento al público.
- Este movimiento es un gran avance para garantizar el desarrollo y uso cuidadosos de la IA avanzada, abordando las preocupaciones sobre los riesgos y las cuestiones éticas.
NUESTRA OPINIÓN
La iniciativa de OpenAI de someter su próximo modelo a controles de seguridad gubernamentales sienta un precedente para que otras empresas tecnológicas e instituciones de investigación prioricen la seguridad, la ética y la responsabilidad en sus proyectos de IA. A medida que la IA sigue avanzando rápidamente, garantizar el uso responsable y beneficioso de estas tecnologías será esencial para generar confianza entre las partes interesadas y el público.
–Rebecca Xu, reportera de BTW
¿Qué ha pasado?
OpenAIse ha convertido en un nombre resonante en la industria de la IA, gracias a ChatGPT y al conjunto de modelos de base desarrollados por la empresa. Bajo el liderazgo deAltman, el laboratorio ha promovido activamente el desarrollo de nuevos productos, pero este enfoque acelerado también ha atraído críticas. Incluyendo a su ex codirector de seguridad, que afirma que el laboratorio ha pasado por alto cuestiones de seguridad en la investigación avanzada de IA.
A la luz de estas preocupaciones, cinco senadores estadounidenses escribieron recientemente a Altman, cuestionando el compromiso de OpenAI con la seguridad y los posibles casos de represalias contra ex empleados que manifestaron públicamente sus inquietudes, basándose en las cláusulas de no desprestigio de sus contratos de trabajo.
En una publicación en X, Sam Altman reveló que OpenAI ha estado colaborando con el Instituto de Seguridad de IA de EE. UU., una entidad federal, para establecer un acuerdo que otorgue acceso anticipado al próximo modelo de base. Esta asociación tiene como objetivo avanzar en la comprensión científica y la evaluación de las tecnologías de IA.
Altman también destacó que la organización ha revisado sus políticas de no desprestigio, permitiendo ahora que tanto el personal actual como el anterior exprese abiertamente sus preocupaciones sobre la empresa y sus proyectos. OpenAI mantiene su dedicación a asignar un mínimo del 20% de sus recursos computacionales a la investigación en seguridad de IA.
Lea también:¿Qué es OpenAI?
Lea también:OpenAI mejora la seguridad de la IA a través del Instituto de Seguridad de IA de EE. UU.
Lea también:OpenAI apoya la legislación para dar forma al futuro de la IA
Por qué es importante
OpenAI, conocida por su investigación avanzada en IA y su compromiso de promover una IA segura y beneficiosa para la sociedad, se ha asociado con agencias gubernamentales para realizar evaluaciones rigurosas de seguridad de su próximo modelo. La colaboración tiene como objetivo abordar riesgos potenciales como sesgos no intencionados, vulnerabilidades de seguridad y consideraciones éticas que puedan surgir del uso del modelo.
Al someter el modelo de IA a minuciosos controles de seguridad por parte del Gobierno de EE. UU., OpenAI busca demostrar su compromiso con la transparencia, la responsabilidad y la innovación responsable en el campo de la inteligencia artificial. El proceso de evaluación involucrará a expertos de diversas disciplinas, incluidos investigadores de IA, especialistas en ética, formuladores de políticas y representantes de la sociedad civil.
La decisión de involucrar la supervisión gubernamental en el desarrollo del modelo de IA refleja el creciente reconocimiento de la importancia de los marcos regulatorios y los mecanismos de seguridad para las tecnologías avanzadas. También destaca la necesidad de esfuerzos de colaboración entre la industria, el mundo académico y el gobierno para abordar los complejos desafíos que plantea el desarrollo y la implementación de la IA.