• Un hacker accedió a los sistemas de mensajería interna de OpenAI el año pasado, robando detalles sobre tecnologías de IA de un foro de empleados pero sin violar los sistemas principales.
  • OpenAI informó al personal y a la junta directiva, pero no hizo pública la violación, considerando que no era una amenaza para la seguridad nacional.

NUESTRA OPINIÓN
La violación de seguridad en OpenAI expone graves vulnerabilidades y una preocupante falta de transparencia. La omisión de OpenAI de informar a las agencias federales y al público pone de manifiesto una gestión inadecuada de las amenazas cibernéticas. Para restaurar la confianza, OpenAI debería mejorar sus protocolos de seguridad y priorizar la apertura y la rendición de cuentas en sus operaciones.
–Jasmine Zhang, reportera de BTW

¿Qué sucedió?

Un hacker accedió a los sistemas de mensajería interna de OpenAI el año pasado, robando detalles sobre sus tecnologías de IA, según elNYT. El hacker extrajo información de las discusiones de los empleados en un foro en línea pero no violó los sistemas donde se desarrolla y almacena la IA.

Los ejecutivos deOpenAIinformaron al personal y a la junta sobre el incidente, pero optaron por no hacerlo público, ya que no se comprometió información de clientes o socios. No consideraron la violación como una amenaza para la seguridad nacional y no la denunciaron ante las fuerzas del orden federales.

OpenAI, respaldada por Microsoft, interrumpió recientemente cinco operaciones encubiertas que intentaban hacer un uso indebido de sus modelos de IA para actividades engañosas. Este incidente coincide con los planes de la administración Biden para salvaguardar la tecnología de IA de EE. UU. de amenazas extranjeras y con los esfuerzos de 16 empresas de IA para comprometerse con el desarrollo seguro de la IA en medio de desafíos regulatorios.

También lea:OpenAI retrasa el nuevo modo de voz de ChatGPT

También lea:OpenAI cancela el servicio API a China

Por qué es importante

La reciente violación de seguridad en OpenAI pone de manifiesto graves vulnerabilidades en los sistemas internos de la empresa. A pesar de las garantías de que los sistemas principales y los datos de los clientes no se vieron comprometidos, el incidente plantea serias dudas sobre la capacidad de OpenAI para proteger información confidencial.

Además, la omisión de OpenAI de informar a las agencias federales encargadas de hacer cumplir la ley sugiere una falta de seriedad a la hora de abordar posibles amenazas cibernéticas. Dadas las crecientes tensiones geopolíticas y la importancia estratégica de la tecnología de IA, una violación de este tipo podría tener implicaciones de gran alcance. La falta de urgencia y el restar importancia al incidente al considerarlo no una amenaza para la seguridad nacional son preocupantes.

La decisión de ocultar información al público y a las fuerzas del orden es particularmente preocupante, y sugiere una falta de transparencia y rendición de cuentas. Este enfoque corre el riesgo de socavar la confianza entre los usuarios, los socios y el público en general, que dependen de medidas de seguridad sólidas para protegerse contra este tipo de violaciones.

OpenAI debería priorizar el fortalecimiento de sus protocolos de seguridad y garantizar una mayor apertura para mantener su credibilidad en el campo de la IA, en rápida evolución. Reevaluar sus medidas de seguridad y su enfoque de transparencia es crucial para prevenir futuras violaciones y restaurar la confianza de las partes interesadas.