- Los nuevos ajustes de clasificación de Google han reducido significativamente la exposición a imágenes explícitas no consentidas.
- Los cambios promueven contenido no explícito y artículos de noticias sobre el impacto de los deepfakes.
NUESTRA OPINIÓN
Las medidas proactivas de Google para mitigar la visibilidad de imágenes explícitas no consentidas resaltan el desafío continuo de gestionar contenido deepfake. Si bien los ajustes representan una mejora significativa en la reducción de la exposición a material dañino, el problema subraya la necesidad de esfuerzos continuos y avances tecnológicos para proteger a las personas de la explotación en línea.
— Zoey Zhu, reportera de BTW
¿Qué sucedió?
Google ha implementado nuevos ajustes en la clasificación de sus resultados de búsqueda, reduciendo efectivamente la exposición de imágenes explícitas no consentidas en más de un 70 % para búsquedas dirigidas a personas específicas. Estos cambios se producen tras una investigación deWIREDque reveló que la dirección de Google había rechazado anteriormente varias medidas propuestas para abordar el creciente problema de las representaciones íntimas que se difunden en línea sin consentimiento. Los ajustes buscan reemplazar los resultados de búsqueda problemáticos con artículos de noticias y otro contenido no explícito. Por ejemplo, una búsqueda de “deepfake nudes Jennifer Aniston” ahora devuelve artículos sobre el impacto social de los deepfakes y advertencias sobre estafas con deepfakes.
Las actualizaciones incluyen tres medidas clave: evitar la reaparición de duplicados después de una solicitud de eliminación, filtrar imágenes explícitas de consultas similares y degradar sitios web con un alto volumen de solicitudes de eliminación exitosas. Estos cambios forman parte de los esfuerzos más amplios de Google para combatir las imágenes explícitas no consentidas (NCEI) y brindar mayor tranquilidad a las personas preocupadas por la aparición de dicho contenido en los resultados de búsqueda.
Lea también:Apple emplea los chips de Google para el entrenamiento de modelos de IA
Lea también:El organismo antimonopolio del Reino Unido examina la asociación de Google con Anthropic
Por qué es importante
La prevalencia de generadores de imágenes con IA ha facilitado que las personas creen y distribuyan imágenes explícitas no consentidas, lo que plantea importantes preocupaciones éticas y de privacidad. Las nuevas medidas de Google representan un paso crucial para abordar este problema al reducir proactivamente la visibilidad de dicho contenido. Al promover resultados de búsqueda informativos y no explícitos, Google busca educar al público sobre el impacto de los deepfakes mientras protege a las personas de la explotación en línea.
Sin embargo, la efectividad de estas medidas no está exenta de limitaciones. Ex empleados y defensores de las víctimas argumentan que Google podría hacer más para combatir NCEI. A pesar de las mejoras, hay llamados a advertencias más sólidas y medidas preventivas, similares a las utilizadas para búsquedas que involucran contenido ilegal. El desafío continuo resalta la necesidad de avances tecnológicos continuos y esfuerzos regulatorios para salvaguardar la privacidad y dignidad de las personas en la era digital.
El enfoque de Google para manejar imágenes explícitas no consentidas sienta un precedente para otras empresas de tecnología, enfatizando la importancia de medidas proactivas y una gestión responsable del contenido. A medida que el uso de la tecnología de IA continúa creciendo, también lo hace la necesidad de estrategias integrales para mitigar sus posibles daños y garantizar un entorno en línea más seguro.