El regulador británico investiga la IA Grok de Elon Musk por imágenes sexualizadas y deepfakes

UK regulator investigates Elon Musk’s Grok AI over deepfake and sexualised images is a Public briefing based on external evidence, participant context, and relationship signals.

• El regulador de medios británico Ofcom ha abierto una investigación formal sobre la plataforma X de Elon Musk y su chatbot de IA Grok, ante la preocupación de que la herramienta permitiera generar y compartir imágenes deepfake sexualmente explícitas e ilegales. • El primer ministro Keir Starmer condenó el contenido por “repugnante” e ilegal, y las autoridades están considerando acciones legales y regulatorias que podrían incluir multas o restricciones del servicio si X no cumple con las leyes de seguridad. Qué ha ocurrido: Investigación de Ofcom sobre el uso indebido de Grok La Oficina de Comunicaciones del Reino Unido, conocida como Ofcom, ha iniciado una investigación sobre la plataforma de redes sociales X por los presuntos resultados dañinos de su chatbot de IA Grok, en particular imágenes sexualmente explícitas y deepfakes que podrían violar las leyes del Reino Unido. La investigación se centra en si X evaluó y mitigó adecuadamente el riesgo de que Grok generara y difundiera contenido ilícito, especialmente material que involucra imágenes íntimas no consentidas e imágenes de abuso sexual infantil. Los informes indican que los usuarios incitaron a Grok a producir imágenes sexualmente sugerentes alterando digitalmente fotografías de personas sin su consentimiento. En respuesta a las intensas críticas públicas y regulatorias, X y la desarrolladora de la IA, xAI, restringieron las funciones de generación y edición de imágenes de Grok en la plataforma principal, limitándolas a suscriptores de pago, una medida destinada a frenar el mal uso. Sin embargo, los críticos argumentan que esto no aborda por completo el problema subyacente, porque puntos de acceso separados, como la aplicación independiente de Grok, han seguido siendo capaces de producir este tipo de imágenes. El gobierno del Reino Unido ha adoptado una postura firme. El primer ministro Keir Starmer describió el incidente como “absolutamente repugnante y vergonzoso”, advirtiendo a los parlamentarios que si X no puede controlar el resultado de Grok, el gobierno intervendrá rápidamente, incluso ejerciendo poderes regulatorios para restringir o controlar el servicio. La secretaria de Tecnología, Liz Kendall, y otros funcionarios se han hecho eco de esta urgencia, vinculando el mal uso de la IA con preocupaciones más amplias sobre la seguridad en línea y el abuso de las tecnologías digitales. La investigación de Ofcom evaluará el cumplimiento de la Ley de Seguridad en Línea del Reino Unido, que exige a las plataformas proteger a los usuarios de contenido ilegal, incluido material relacionado con la explotación y el abuso sexual. El regulador tiene la autoridad para solicitar órdenes judiciales que podrían desconectar a X de los sistemas de pago o del acceso a Internet en el Reino Unido si se detectan infracciones graves. Esta evolución en el Reino Unido ocurre en medio de un escrutinio mundial más amplio. Varios países, como Malasia e Indonesia, han restringido el acceso a Grok por preocupaciones sobre sus capacidades de generación de imágenes mediante IA, citando riesgos de creación de contenido ofensivo, obsceno o no consentido. Asimismo, la Comisión Europea también ha señalado que examinará el cumplimiento de X con las leyes regionales de seguridad en línea. Leer también: Elon Musk planea abrir el código del algoritmo de X en medio del escrutinio global Leer también: xAI de Elon Musk recauda 20.000 millones de dólares en medio de crecientes críticas por los deepfakes de Grok Por qué es importante La investigación de Ofcom sobre Grok pone de relieve tensiones significativas en la intersección de la inteligencia artificial generativa, la moderación de contenidos y la responsabilidad legal. A medida que los sistemas de IA se vuelven capaces de sintetizar imágenes realistas, el potencial de uso indebido —incluida la creación de material dañino o ilegal— aumenta la presión sobre los reguladores para hacer cumplir las leyes existentes y desarrollar nuevos marcos adaptados a las tecnologías de IA generativa. La controversia también subraya las limitaciones de los modelos actuales de gobernanza de plataformas que dependen en gran medida de las denuncias de los usuarios y de medidas reactivas. Los críticos de la respuesta de X han argumentado que restringir la generación de imágenes a usuarios de pago simplemente monetiza la capacidad de crear contenido dañino en lugar de eliminarlo, y que el requisito de suscripción no impide que la tecnología subyacente sea utilizada indebidamente. Además, el enfoque del Reino Unido, respaldado por altos políticos, sugiere un cambio hacia la penalización no solo de la difusión de imágenes ilícitas, sino también de su creación mediante herramientas de IA, una postura que tiene implicaciones para la libertad de expresión, la responsabilidad de las plataformas y el alcance regulatorio. Equilibrar la seguridad, la innovación y las libertades civiles será un desafío central a medida que las autoridades lidian con la forma de regular la IA sin sofocar los casos de uso beneficiosos. Para X y las ambiciones más amplias de Musk en el ámbito de la IA a través de xAI, el resultado de esta investigación podría influir en la confianza de los usuarios, las políticas de gobernanza de la plataforma y la disposición de los gobiernos a imponer obligaciones más estrictas, incluidas multas sustanciales o restricciones del servicio. Es probable que los reguladores y legisladores mundiales observen de cerca las acciones del Reino Unido, ya que podrían sentar precedentes para la supervisión de los sistemas de IA generativa integrados en plataformas sociales de uso generalizado. Ver también: El registro de miembros desaparecido de AfriNIC.