- La Comisión Europea y los organismos de control del Reino Unido están revisando el cumplimiento de X con las normas digitales de la UE, centrándose en la generación de contenido dañino de Grok.
- Las investigaciones en varios países reflejan una inquietud regulatoria más amplia sobre la gobernanza del contenido de IA, los deepfakes y los estándares de protección al usuario.
Qué sucedió: la UE y el Reino Unido inician investigaciones sobre los riesgos de IA de X y Grok
La Comisión Europea anunció formalmente el 26 de enero de 2026 una investigación sobre si X cumplió con sus obligaciones en virtud de la Ley de Servicios Digitales (DSA), en particular en la evaluación y mitigación de riesgos asociados con Grok antes de su implementación en la UE.
La revisión de la UE se centra en si X llevó a cabo la evaluación de riesgos independiente requerida y si identificó y abordó los posibles daños de los resultados generados por IA, incluida la difusión de material ilegal o dañino. Al mismo tiempo, la Oficina del Comisionado de Información del Reino Unido (ICO) ha lanzado una investigación paralela sobre Grok por preocupaciones sobre el procesamiento de datos personales y la generación de imágenes sexualizadas dañinas, destacando graves riesgos potenciales para la privacidad y la seguridad.
Las autoridades en Francia también han entrado en escena, con fiscales registrando las oficinas de X en París como parte de una investigación coordinada sobre presuntos delitos relacionados con deepfakes dañinos y contenido no consensuado. Estas acciones se producen en medio de preocupaciones globales más amplias sobre la gobernanza de plataformas y la responsabilidad de los operadores al implementar herramientas de IA que pueden crear deepfakes y otro contenido arriesgado.
Lea también: Telefónica Tech UK&I presenta un servicio gestionado de Security Service Edge impulsado por IA para empresas británicas e irlandesas
Lea también: Vertiv apunta al crecimiento de centros de datos de IA con mantenimiento predictivo
Por qué es importante
Las investigaciones sobre X y Grok reflejan una creciente inquietud entre los reguladores sobre los posibles daños derivados de la IA generativa cuando se integra en plataformas en línea ampliamente utilizadas. La DSA y leyes similares en el Reino Unido y la UE tienen como objetivo responsabilizar a las plataformas no solo por el contenido generado por los usuarios, sino también por los modelos de IA que proporcionan. El enfoque de la Comisión Europea en el cumplimiento de la evaluación de riesgos subraya cómo los reguladores ahora esperan evaluaciones rigurosas previas al despliegue, no solo medidas reactivas después de que ocurra el daño.
Esta ofensiva regulatoria plantea preguntas más amplias sobre la adecuación de los marcos de gobernanza actuales. Es posible que las plataformas necesiten mejorar la transparencia sobre cómo se entrenan, prueban y moderan las herramientas de IA como Grok. También subraya la tensión entre la innovación en IA y el imperativo de proteger a los usuarios, en particular a los grupos vulnerables, de contenido dañino, explotador o ilegal. Los críticos argumentan que sin estándares más claros sobre moderación de contenido y mitigación de riesgos, las plataformas pueden amplificar inadvertidamente los riesgos a pesar de las buenas intenciones.
Además, a medida que la IA generativa se vuelve más capaz y omnipresente, estos casos destacan una necesidad urgente de cooperación internacional en la gobernanza de la IA, dado que plataformas como X operan en múltiples jurisdicciones legales. Tanto los responsables políticos como la industria deberán encontrar el equilibrio entre fomentar el avance tecnológico y garantizar salvaguardas sólidas que protejan a los usuarios en un entorno en línea cada vez más impulsado por la IA.
Preguntas frecuentes
1: ¿Qué está investigando la UE?
La Comisión Europea está examinando si X cumplió con las obligaciones de “gestión de riesgos” de la DSA antes de lanzar Grok en la UE, especialmente si realizó una evaluación de riesgos independiente adecuada y estableció salvaguardas para reducir los daños previsibles. Esto incluye verificar si los resultados generados por IA podrían aumentar la difusión de contenido ilegal, desinformación u otro material dañino, y si X tenía medidas de mitigación efectivas listas antes del despliegue (no solo después de que aparezcan los problemas).
2. ¿Por qué está involucrada la ICO del Reino Unido y qué podría suceder a continuación?
La Oficina del Comisionado de Información del Reino Unido (ICO) se centra en los riesgos de privacidad y protección de datos, como si los datos personales se procesan legalmente y si el sistema podría permitir resultados dañinos (por ejemplo, generar imágenes sexualizadas no consensuadas). Si los reguladores encuentran problemas, los resultados pueden incluir demandas de controles de seguridad más estrictos, mayor transparencia sobre cómo se prueba/monitorea la IA, restricciones en ciertas funciones y posibles sanciones significativas, además de mayores expectativas para que las plataformas demuestren que pueden gestionar los riesgos de la IA a escala.