- El regulador de medios británico está avanzando con una investigación formal sobre la presunta producción de ultrafalsos sexualmente explícitos por parte de Grok.
- El organismo de control de la privacidad de Canadá ha ampliado su investigación para incluir a la unidad de IA de Musk, xAI, por preocupaciones similares.
Qué sucedió: Los reguladores de ambos países continúan las investigaciones sobre X y su IA por ultrafalsos
El regulador de medios británico Ofcom confirmó el jueves que su investigación formal sobre la plataforma de redes sociales X de Elon Musk y su chatbot de IA Grok continuará, a pesar de los cambios recientes realizados por la compañía para frenar las capacidades problemáticas de edición de imágenes.
Ofcom dijo que acogía con satisfacción las restricciones de xAI sobre la capacidad de Grok para editar imágenes de personas reales con ropa sexualmente reveladora como bikinis —un ajuste destinado a abordar las preocupaciones planteadas por los reguladores— pero agregó que su investigación “sigue en curso” mientras busca comprender completamente cómo Grok llegó a generar dicho material y si X cumplió con la legislación del Reino Unido.
La investigación se centra en informes de que Grok se utilizó para crear y compartir ultrafalsos sexualizados no consentidos, incluidas imágenes de mujeres y niños en contextos degradantes, lo que plantea posibles infracciones de la Ley de Seguridad en Línea de Gran Bretaña y las salvaguardias relacionadas.
Mientras tanto, en Canadá, la Oficina del Comisionado de Privacidad dijo que está ampliando una investigación existente sobre X para incluir una investigación relacionada sobre xAI, la empresa detrás de Grok, por preocupaciones similares sobre la creación y distribución de contenido ultrafalso sexualmente explícito.
Ambos reguladores subrayaron que los ajustes realizados por las empresas de Musk no excluyen la rendición de cuentas, y que se necesita más trabajo para evaluar el cumplimiento de las leyes de privacidad y seguridad.
Lea también: El regulador del Reino Unido dice que su investigación sobre ultrafalsos de X continuará
Lea también: Análisis: Musk recibe un golpe por los ultrafalsos de Grok, pero la lucha regulatoria está lejos de terminar
Por qué es importante
La persistente presión regulatoria sobre Grok pone de relieve el creciente desafío global de gobernar sistemas de IA capaces de generar contenido realista pero dañino. Los ultrafalsos existen desde hace años, pero su integración en plataformas ampliamente utilizadas como X —con facilidad de acceso— plantea nuevos riesgos legales y sociales.
En el Reino Unido, Ofcom puede imponer multas de hasta £18 millones o el 10% de los ingresos globales e incluso solicitar bloqueos ordenados por los tribunales si se infringen leyes como la Ley de Seguridad en Línea. La investigación ampliada de Canadá señala la voluntad de las autoridades de privacidad de mirar más allá de la recopilación de datos hacia los resultados de las herramientas de IA cuando se utiliza información personal sin consentimiento.
En conjunto, estas acciones pueden sentar precedentes sobre cómo los reguladores de todo el mundo abordan la manipulación de imágenes no consentida, la seguridad de la IA y la responsabilidad de las plataformas, en un momento en que tanto la industria como los legisladores se apresuran a ponerse al día con el rápido cambio tecnológico.