Taylor Swift AI images are ‘shocking and scary’, says Satya Nadella

• El CEO de Microsoft, Satya Nadella, subrayó la urgencia de actuar rápidamente después de que aparecieran en internet imágenes falsas de la estrella del pop Taylor Swift.
• Dada la facilidad con la que se pueden manipular los generadores de IA, el informe destaca los desafíos inherentes a la aplicación de dichas restricciones.
• Preocupa la proliferación de herramientas de IA que ayudan a crear fotos falsas y se subraya la necesidad de soluciones integrales para los nuevos desafíos en el ámbito digital.

El debate sobre la IA y las "infracciones de la realidad" ha saltado al mundo de una celebridad famosa: Taylor Swift, quien recientemente fue objeto de imágenes deepfake compartidas en línea. El problema ha puesto de relieve uno de los temores más discutidos en torno a la IA generativa: ¿están haciendo lo suficiente los creadores y las empresas involucradas para protegerse contra su uso indebido? Ver también: La FCC respalda a los constructores de fibra con límites de permisos.

Una respuesta honesta

El CEO de Microsoft, Satya Nadella, ha respondido a las preocupaciones sobre la aparición de imágenes explícitas de Taylor Swift generadas por IA. En una entrevista con NBC Nightly News, Nadella calificó el aumento de la desnudez simulada sin consentimiento como "impactante y aterrador", y subrayó la urgencia de actuar con rapidez. Ver también: Ofcom expone la brecha de cobertura móvil en los trenes del Reino Unido.

En una entrevista que se emitirá el próximo martes, Nadella reconoció la gravedad de la situación cuando el entrevistador Lester Holt señaló que Internet está inundado de representaciones pornográficas falsas de Taylor Swift. La respuesta de Nadella abordó la complejidad de las cuestiones de política tecnológica, haciendo hincapié en la necesidad de contar con salvaguardias sólidas para mitigar este tipo de incidentes. Ver también: Robert Neuwirth.

Yo diría dos cosas: Una, vuelvo a lo que creo que es nuestra responsabilidad, que son todas las barreras de protección que debemos colocar alrededor de la tecnología para que se produzca un contenido más seguro. Y hay mucho por hacer y se está haciendo mucho en ese sentido. Pero se trata de una convergencia global, social —diría yo— en ciertas normas. Y podemos hacer—especialmente cuando se unen la ley, las fuerzas del orden y las plataformas tecnológicas—creo que podemos gobernar mucho más de lo que pensamos, más de lo que nos atribuimos. Ver también: La UE reescribe las reglas de soberanía de la infraestructura de IA.

Satya Nadella, CEO de Microsoft

Nadella subrayó que Microsoft está comprometida a tomar las medidas necesarias para garantizar una creación de contenidos más segura en el ámbito tecnológico. Destacó la importancia de establecer normas sociales globales, colaborar con las fuerzas del orden y utilizar las plataformas tecnológicas para vigilar eficazmente los contenidos en línea. Ver también: La UE expulsa a los operadores satelitales estadounidenses del espectro.

Aunque hay indicios de que Microsoft estuvo implicada en la difusión de estas imágenes falsas de Swift, un informe de 404 Media sugiere que las imágenes procedían de una comunidad basada en Telegram dedicada a la creación de pornografía no consentida. Se dice que esta comunidad sugirió utilizar el generador de imágenes Designer de Microsoft, a pesar de que se supone que prohíbe generar imágenes de personajes públicos. Sin embargo, dada la facilidad con la que se pueden manipular los generadores de IA, el informe pone de relieve los desafíos inherentes a la aplicación de dichas restricciones. Ver también: La FCC exige licencias para los aterrizajes de cables submarinos en EE. UU..

Si bien estos acontecimientos ponen de manifiesto fallos técnicos que Microsoft podría tener que abordar, también reflejan preocupaciones más amplias sobre la proliferación de herramientas de inteligencia artificial que ayudan a crear fotos falsas de desnudos. Esta tendencia ha suscitado un acalorado debate y ha puesto de relieve la necesidad de soluciones integrales para afrontar los nuevos retos del ámbito digital. Ver también: EE. UU. cierra la laguna legal de los chips de IA en el extranjero.

Lea también: La herramienta de IA Nightshade 'envenena' las obras de arte digitales para ayudar a los artistas a luchar contra las infracciones de la propiedad intelectual

Comunidad pequeña, gran poder

Algunos dijeron que Microsoft podría tener algo que ver con las imágenes falsas de Swift. Los informes de 404 Media indican que las imágenes proceden de una comunidad de producción de pornografía no consentida basada en Telegram que recomienda utilizar el generador de imágenes Microsoft Designer. En teoría, Designer se niega a generar imágenes de celebridades, pero los generadores de IA son fáciles de engañar, y 404 ha descubierto que se pueden eludir sus reglas ajustando las indicaciones. Aunque esto no demuestra que se utilizara Designer para crear las imágenes de Swift, es un fallo técnico que Microsoft puede solucionar. Pero las herramientas de IA han simplificado enormemente el proceso de crear un desnudo falso de una persona real, sembrando el caos entre mujeres mucho menos poderosas y famosas que Swift. Controlar su producción no es tan sencillo como conseguir que las grandes empresas refuercen las barreras de protección. Incluso si se bloquean las principales plataformas de las "grandes tecnológicas" como Microsoft, se pueden reentrenar herramientas abiertas como Stable Diffusion para crear imágenes NSFW, a pesar de los intentos de dificultarlo. Quizá muchos menos usuarios tengan acceso a estos generadores, pero el incidente de Swift demuestra hasta qué punto puede extenderse el trabajo de una pequeña comunidad. Ver también: La FCC reabre la subasta AWS-3 tras el incumplimiento de Dish.

Nadella propone vagamente cambios sociales y políticos más amplios, pero a pesar de algunas medidas iniciales para regular la IA, Microsoft no tiene una solución clara. Los legisladores y las fuerzas del orden se debaten sobre cómo abordar las imágenes sexuales no consentidas, y las falsificaciones con inteligencia artificial añaden una complicación adicional. Algunos legisladores están intentando modificar las leyes de derecho a la publicidad para abordar el problema, pero las soluciones propuestas suelen plantear graves riesgos para la libertad de expresión.

La Casa Blanca ha pedido "medidas legislativas" sobre el tema, pero incluso ella ha proporcionado muy pocos detalles sobre lo que eso significa.

Sin embargo, existen otros recursos, como que las redes sociales limiten el alcance de las imágenes no consentidas o, al parecer, que Swift imponga la justicia por su cuenta a quienes las distribuyen. Por ahora, sin embargo, el único plan claro de Nadella es poner orden en la propia división de inteligencia artificial de Microsoft.