- El gobierno del Reino Unido insta a X de Elon Musk a frenar las imágenes dañinas generadas por IA de Grok.
- Los reguladores aumentan la presión mientras Francia, India y la UE condenan los resultados como ilegales.
Qué sucedió: el gobierno presiona para una acción urgente
El gobierno británico ha dicho públicamente a la red social X de Elon Musk que actúe de inmediato para evitar que su herramienta de IA Grok produzca imágenes sexualizadas y no consentidas de personas, incluidas mujeres y menores. La secretaria de Tecnología del Reino Unido, Liz Kendall, describió la proliferación de imágenes íntimas de deepfake como “absolutamente espantosa” y pidió a la plataforma que aborde el problema urgentemente.
Los informes de Reuters muestran que los usuarios pudieron pedir a Grok que generara imágenes de mujeres y niños con ropa ligera, lo que alarmó a las autoridades europeas. Crear o compartir este tipo de imágenes sin consentimiento es ilegal en el Reino Unido, y las plataformas deben evitar que los usuarios encuentren este contenido y eliminarlo cuando tengan conocimiento.
La cuenta oficial de Seguridad de X declaró que la plataforma elimina el contenido ilegal y prohíbe permanentemente las cuentas involucradas, y que cualquiera que incite a Grok a crear material ilícito enfrentaría las mismas consecuencias que si lo subiera directamente. Según se informa, Elon Musk reaccionó a la controversia con emojis de risa en las redes sociales, una respuesta que atrajo más críticas sobre la seriedad de la compañía en materia de seguridad.
El regulador del Reino Unido, Ofcom, se ha puesto en contacto tanto con X como con su división de IA xAI para garantizar el cumplimiento de las obligaciones en virtud de la Ley de Seguridad en Línea. Las autoridades francesas han denunciado el problema a los fiscales, y el gobierno de la India ha exigido explicaciones, calificando el contenido de obsceno y un fallo de las salvaguardas de la plataforma.
Lea también: El Reino Unido invierte 210 millones de libras para reforzar las ciberdefensas del sector público
Lea también: G.Network vendida a un inversor en dificultades mientras el sector de fibra del Reino Unido bajo creciente presión
Por qué es importante
El incidente subraya las crecientes tensiones entre las tecnologías de IA generativa y las leyes existentes diseñadas para proteger a los usuarios de daños. La capacidad de Grok para producir deepfakes explotadores pone de manifiesto las lagunas en la moderación de contenidos en un momento en que herramientas similares de otras empresas —como OpenAI y Google— aplican salvaguardas más estrictas.
Con múltiples jurisdicciones condenando los resultados como ilegales o perjudiciales, este episodio puede dar forma a la futura gobernanza de la IA y los marcos regulatorios. Plantea preguntas sobre la responsabilidad de las plataformas, la idoneidad de leyes actuales como la Ley de Seguridad en Línea del Reino Unido, y cómo las empresas tecnológicas deben equilibrar la innovación con la seguridad de los usuarios a medida que la generación de imágenes impulsada por IA se vuelve más accesible.