YouTube’s new frontier: Battling AI mimicry for privacy’s sake

• En junio, YouTube actualizó su proceso de solicitudes de privacidad para incluir contenido generado por IA que simula el rostro o la voz de un individuo.
• La nueva política de YouTube marca un paso crucial en la gestión de las preocupaciones éticas y de privacidad asociadas con el contenido generado por IA. A medida que avanza la tecnología de IA, aumenta el potencial de uso indebido, lo que hace imperativo que las plataformas establezcan directrices claras. Al permitir que las personas soliciten la eliminación de contenido que imita su apariencia, YouTube reconoce el impacto personal y social de los medios sintéticos.

NUESTRA OPINIÓN
El reciente cambio de política de YouTube para permitir a los usuarios exigir la eliminación de contenido generado por IA que imita sus rostros o voces marca un momento crucial en la batalla por la privacidad digital. Al abordar de frente las turbias aguas de los medios sintéticos, YouTube no solo salvaguarda los derechos individuales sino que también fortalece la integridad de su plataforma en medio de la revolución de la IA. Esta postura proactiva subraya la creciente urgencia de abordar los dilemas éticos que plantean los avances de la IA, especialmente en ámbitos sensibles como las elecciones. Mientras los gigantes tecnológicos navegan por estas aguas desconocidas, el audaz paso de YouTube sienta un precedente para el uso responsable de la IA, crucial para preservar la confianza y la transparencia en la era digital.
–Miurio huang, reportero de BTW Ver también: La FCC respalda a los constructores de fibra con límites de permisos.

A medida que el contenido generado por IA sigue aumentando, los gigantes tecnológicos lidian con sus implicaciones en sus plataformas. En un cambio de política silencioso pero significativo, YouTube anunció en junio que los usuarios ahora pueden solicitar la eliminación de contenido generado por IA o sintético que imita su rostro o voz. Esta medida, parte de la iniciativa de privacidad más amplia de YouTube, aborda las crecientes preocupaciones sobre la privacidad y el uso ético de la tecnología de IA. Ver también: Ofcom expone la brecha de cobertura móvil en los trenes del Reino Unido.

Lo que sucedió

En junio, YouTube actualizó su proceso de solicitudes de privacidad para incluir contenido generado por IA que simula el rostro o la voz de un individuo. Este cambio de política permite a las partes afectadas solicitar la eliminación de dicho contenido como una violación de la privacidad, en lugar de como contenido engañoso o dañino como los deepfakes. Las directrices actualizadas especifican que se requieren reclamaciones en primera persona, excepto en ciertos casos como cuando el individuo es menor de edad, ha fallecido o carece de acceso a una computadora.

Sin embargo, enviar una solicitud de eliminación no garantiza la eliminación del contenido. YouTube evaluará las quejas en función de factores como si el contenido está etiquetado como sintético, identifica de manera única a una persona o tiene la intención de ser una parodia o sátira. La política también considera si el contenido generado por IA presenta a una figura pública o representa comportamientos sensibles como actividad delictiva o respaldos políticos, lo cual es particularmente crítico en un año electoral. Ver también: Robert Neuwirth.

El enfoque de YouTube incluye dar a los cargadores de contenido 48 horas para responder a las quejas. Si el contenido se elimina dentro de este período, la queja se cierra; de lo contrario, YouTube iniciará una revisión. Además, la eliminación implica retirar completamente el video y cualquier información personal relacionada. Los usuarios pueden difuminar rostros pero no pueden simplemente hacer que los videos sean privados, ya que podrían volver a ser públicos. Ver también: La UE reescribe las reglas de soberanía de la infraestructura de IA.

Lea también: YouTube cancela suscripciones Premium usando VPN

Lea también: YouTube introduce verificación de datos colaborativa con notas de los espectadores

Por qué es importante

La nueva política de YouTube marca un paso crucial en la gestión de las preocupaciones éticas y de privacidad asociadas con el contenido generado por IA. A medida que avanza la tecnología de IA, aumenta el potencial de uso indebido, lo que hace imperativo que las plataformas establezcan directrices claras. Al permitir que las personas soliciten la eliminación de contenido que imita su apariencia, YouTube reconoce el impacto personal y social de los medios sintéticos. Ver también: La UE expulsa a los operadores satelitales estadounidenses del espectro.

Esta política es especialmente relevante en el contexto de las elecciones, donde el contenido generado por IA puede influir en la opinión pública y el comportamiento de voto. La capacidad de solicitar la eliminación de respaldos creados por IA o representaciones falsas ayuda a proteger la integridad de los procesos democráticos. Además, al diferenciar las pautas de privacidad de las pautas de la comunidad, YouTube busca equilibrar los derechos de los creadores de contenido con la necesidad de privacidad y estándares éticos. Ver también: La FCC exige licencias para los aterrizajes de cables submarinos en EE. UU..

La política también refleja una tendencia más amplia en la industria tecnológica, a medida que empresas como Meta y YouTube navegan las complejidades de la IA. Si bien YouTube apoya el uso de la IA con fines innovadores, como el resumen de comentarios y las herramientas conversacionales, enfatiza que el contenido de IA aún debe cumplir con sus Normas de la Comunidad. Esto asegura que los avances de la IA no comprometan la confianza de los usuarios o la integridad de la plataforma.