• La UE investiga si la integración de Grok en X ha permitido la difusión de contenido dañino e ilegal, incluidos deepfakes sexualmente explícitos.
  • Esta medida refleja un creciente escrutinio bajo la Ley de Servicios Digitales sobre los comportamientos de la IA, no solo sobre los datos, lo que plantea cuestiones más amplias sobre la responsabilidad de las plataformas.

Qué ocurrió:acción formal de la UE contra la funcionalidad de Grok y X

La Comisión Europea ha abierto una investigación formal sobre la plataforma de redes sociales X y su chatbot de IA integrado Grok, centrándose en si esta combinación no ha protegido a los usuarios de la Unión Europea frente a contenido dañino e ilegal, incluidas imágenes sexualizadas generadas por la herramienta de IA.

La investigación evaluará siX y Grok cumplieron con la Ley de Servicios Digitales de la UE(DSA, por sus siglas en inglés)al implementar la funcionalidad de IA en la plataforma y si los riesgos relacionados con la difusión de contenido ilegal se identificaron y mitigaron adecuadamente.

La sospecha de infracción surge en medio de informes de que los usuarios pudieron solicitar a Grok que creara imágenes deepfake sexualmente explícitas de adultos y menores, una práctica que provocó una reacción regulatoria.

La investigación de la UE amplía los procedimientos anteriores que examinaron los sistemas de recomendación y el cumplimiento de la moderación de contenido de X, lo que ilustra que el escrutinio regulatorio se está ampliando para cubrir los comportamientos impulsados por IA en las principales plataformas.

Lea también:El regulador del Reino Unido dice que su investigación sobre deepfakes en X continuará
Lea también:Análisis: Musk recibe un golpe por los deepfakes de Grok, pero la lucha regulatoria está lejos de terminar

Por qué es importante

Esta investigación marca un claro cambio en la forma en que las autoridades europeas abordan el cumplimiento de las plataformas de IA: no solo en términos de privacidad de datos, sino con un enfoque en cómo la IA generativa se comporta en el mundo real y los daños que puede permitir. Tradicionalmente, la acción regulatoria se ha concentrado en la recopilación o retención de datos; ahora, las plataformas son consideradas responsables de cómo sus sistemas generan, recomiendan y distribuyen contenido accesible para los usuarios.

En virtud de la Ley de Servicios Digitales, la Comisión dispone de amplios poderes de investigación, incluida la facultad de exigir información sobre algoritmos y sistemas de moderación, y puede imponer sanciones sustanciales si se detectan infracciones.

Sin embargo, la medida también suscita debate sobre la gobernanza de las plataformas y el debido proceso. Los críticos pueden argumentar que hacer cumplir las normas de contenido en diversas culturas y sistemas legales es inherentemente complejo y que los costos de cumplimiento podrían perjudicar la innovación. Otros advierten que una dependencia excesiva de soluciones técnicas para los deepfakes y el contenido dañino —sin una clara rendición de cuentas— corre el riesgo de desviar la responsabilidad de los operadores de las plataformas.

Además, mientras los reguladores buscan proteger a los usuarios vulnerables, quedan preguntas sobre cómo equilibrar la libertad de expresión con la vigilancia automatizada de los resultados de la IA, especialmente cuando las herramientas automatizadas sirven a miles de millones de personas en todo el mundo.

A medida que avance la investigación, será seguida de cerca no solo por los reguladores, sino también por los desarrolladores de IA, las organizaciones de la sociedad civil y los operadores de plataformas en la nube que evalúan los futuros marcos de riesgo y cumplimiento.