- El CEO de Microsoft Satya Nadellasubrayó la urgencia de actuar rápidamente después de que aparecieran en línea imágenes falsas de la estrella del pop Taylor Swift.
- Dado lo fácil que es manipular los generadores de IA, el informe destaca los desafíos inherentes a la aplicación de tales restricciones.
- Existen preocupaciones sobre la proliferación de herramientas de IA que ayudan a crear fotos falsas y resaltan la necesidad de soluciones integrales para los nuevos desafíos en el ámbito digital.
El debate sobre la IA y las ‘infracciones de la realidad’ ha saltado al mundo de una celebridad famosa – Taylor Swift, quien recientemente fue objeto de imágenes deepfake compartidas en línea. El asunto ha puesto de relieve uno de los temores más discutidos en torno a la IA generativa: ¿están los creadores y las empresas involucradas haciendo lo suficiente para protegerse contra su mal uso?
Una respuesta honesta
El CEO de Microsoft Satya Nadella ha respondido a las preocupaciones sobre la aparición de imágenes explícitas de IA de Taylor Swift. En una entrevista con NBC Nightly News, Nadella calificó el aumento de la desnudez simulada sin consentimiento como “impactante y aterrador”, subrayando la urgencia de actuar rápidamente.
En una entrevista que se emitirá el próximo martes, Nadella reconoció la gravedad de la situación cuando el entrevistador Lester Holt destacó el hecho de que Internet está inundado de representaciones pornográficas falsas de Taylor Swift. La respuesta de Nadella abordó la complejidad de las cuestiones de política tecnológica, enfatizando la necesidad de salvaguardas sólidas para mitigar tales incidentes.
Diría dos cosas: Una, vuelvo a lo que creo que es nuestra responsabilidad, que son todas las barreras que necesitamos colocar alrededor de la tecnología para que se produzca contenido más seguro. Y hay mucho por hacer y se está haciendo mucho allí. Pero se trata de una convergencia global, social — digamos, en ciertas normas. Y podemos hacer — especialmente cuando la ley, las fuerzas del orden y las plataformas tecnológicas se unen — creo que podemos gobernar mucho más de lo que pensamos; nos damos crédito a nosotros mismos.
Satya Nadella, CEO de Microsoft
Nadella enfatizó que Microsoft se compromete a tomar las medidas necesarias para garantizar una creación de contenido más segura en el espacio tecnológico. Destacó la importancia de establecer normas sociales globales, trabajar con las fuerzas del orden y utilizar plataformas tecnológicas para vigilar eficazmente el contenido en línea.
Si bien hay indicios de que Microsoft estuvo involucrada en la difusión de estas imágenes falsas de Swift, un informe de 404 Media sugiere que las imágenes provienen de una comunidad basada en Telegram dedicada a la creación de pornografía no consentida. Se dice que esta comunidad sugirió usar el generador de imágenes Designer de Microsoft, aunque se cree que este prohíbe generar imágenes de figuras públicas. Sin embargo, dada la facilidad con la que se pueden manipular los generadores de IA, el informe destaca los desafíos inherentes a la aplicación de dichas restricciones.
Si bien estos desarrollos ponen de relieve fallos técnicos que Microsoft podría necesitar abordar, también reflejan preocupaciones más amplias sobre la proliferación de herramientas de inteligencia artificial que ayudan a crear fotos de desnudos falsos. Esta tendencia ha provocado un intenso debate y ha puesto de relieve la necesidad de soluciones integrales para hacer frente a los nuevos desafíos en el ámbito digital.
Lea también: La herramienta de IA Nightshade ‘envenena’ obras de arte digitales para ayudar a los artistas a luchar contra las infracciones de propiedad intelectual
Pequeña comunidad, gran poder
Algunos dijeron que Microsoft podría tener algo que ver con las imágenes falsas de Swift. Los informes de 404 Media indican que las imágenes proceden de una comunidad de producción de pornografía no consentida basada en Telegram que recomienda usar el generador de imágenes Designer de Microsoft. En teoría, los diseñadores se niegan a generar imágenes de celebridades, pero los generadores de IA son fáciles de engañar, y 404 descubrió que se pueden romper sus reglas afinando los prompts. Si bien esto no prueba que el diseñador se usara para hacer las imágenes de Swift, es un fallo técnico que Microsoft puede arreglar.
Pero las herramientas de IA han simplificado enormemente el proceso de crear un desnudo falso de una persona real, causando caos para mujeres que son mucho menos poderosas y famosas que Swift. Controlar su producción no es tan simple como conseguir que las grandes empresas refuercen las barreras. Incluso si las principales plataformas de “big tech” como Microsoft están bloqueadas, uno puede reentrenar herramientas abiertas como Stable Diffusion para hacer imágenes NSFW, a pesar de los intentos de hacerlo más difícil.
Muchos menos usuarios pueden tener acceso a estos generadores, pero el incidente de Swift muestra cuán ampliamente se puede difundir el trabajo de una pequeña comunidad.
Nadella propone vagamente cambios sociales y políticos más amplios, pero a pesar de algunos movimientos iniciales para regular la IA, Microsoft no tiene una solución clara. Los legisladores y las fuerzas del orden tienen dificultades para lidiar con las imágenes sexuales no consentidas, y las falsificaciones de inteligencia artificial añaden una complicación adicional. Algunos legisladores intentan modificar las leyes de derecho a la publicidad para abordar el problema, pero las soluciones propuestas a menudo plantean graves riesgos para la libertad de expresión.
La Casa Blanca ha pedido “acción legislativa” sobre el tema, pero incluso ella ha dado muy pocos detalles sobre lo que eso significa.
Sin embargo, existen otros expedientes, como que las redes sociales limiten el alcance de las imágenes no consentidas o, aparentemente, que Swift imponga justicia por mano propia a quienes las distribuyen. Por ahora, no obstante, el único plan claro de Nadella es limpiar la propia división de inteligencia artificial de Microsoft.
