- Google actualiza sus directrices para apps de IA en Google Play para prevenir contenido inapropiado y dañino.
- Las apps de IA no deben generar contenido sexual, violencia u otro material restringido, y deben ofrecer funciones para que los usuarios informen sobre contenido.
- Los desarrolladores deben probar rigurosamente las herramientas de IA para la seguridad del usuario y cumplir con las nuevas directrices de promoción para evitar afirmaciones engañosas.
Nuestra Opinión
Las estrictas nuevas políticas de Google sobre apps de IA son una respuesta vital al uso indebido de la IA para crear desnudos deepfake. Estas medidas son cruciales para frenar las prácticas poco éticas de las apps y proteger la privacidad y seguridad de los usuarios en Google Play.
—Lydia Luo, reportera de BTW
Google está endureciendo las regulaciones para las aplicaciones de IA disponibles en Google Play. La compañía anunció el jueves nuevas medidas destinadas a frenar la distribución de contenido inapropiado generado por apps de IA. Los desarrolladores ahora deben cumplir con reglas más estrictas que garanticen que el material generado por IA siga siendo apropiado, con nuevas disposiciones para la retroalimentación de los usuarios y la moderación de contenido.
Prevención de contenido inapropiado
Las directrices revisadas de Google exigen que las apps de IA estén diseñadas para prevenir la generación de contenido restringido, incluido material sexual, violencia y otros resultados prohibidos. Ahora se exige a los desarrolladores que implementen filtros de contenido sólidos y proporcionen a los usuarios mecanismos para denunciar cualquier material ofensivo. Esta iniciativa forma parte de la estrategia más amplia de Google para mantener un entorno digital seguro y proteger la privacidad de los usuarios en su plataforma.
Además, las aplicaciones deben someterse a pruebas rigurosas para garantizar que cumplen con estos estándares de contenido antes de poder distribuirse en Google Play.
Leer también: Desenmascarando las ilusiones deepfake y protegiéndose contra el engaño
Represión del marketing engañoso
Google también está abordando los problemas con las prácticas de marketing engañosas en las apps de IA. Algunas aplicaciones se han promocionado con afirmaciones de generar desnudos deepfake no consentidos o participar en otras actividades poco éticas. Por ejemplo, los anuncios de estas aplicaciones han aparecido en las redes sociales, sugiriendo falsamente que podrían crear imágenes de desnudos de figuras públicas o individuos sin su consentimiento. Las nuevas políticas de Google prohíben la promoción de apps de IA con estos casos de uso engañosos, y cualquier aplicación que infrinja estas directrices de marketing corre el riesgo de ser eliminada de la tienda Google Play, independientemente de sus capacidades reales.
Leer también: Por qué los resúmenes de IA de Google a menudo fallan
Responsabilidad del desarrollador y mejores prácticas
Según las regulaciones actualizadas, los desarrolladores son responsables de garantizar que sus aplicaciones de IA no puedan ser manipuladas para generar contenido dañino u ofensivo. Esto incluye procesos rigurosos de prueba y retroalimentación, donde los desarrolladores pueden utilizar la función de prueba cerrada de Google para recopilar comentarios de los usuarios sobre las primeras versiones de sus aplicaciones. Google recomienda que los desarrolladores documenten estas pruebas a fondo, ya que la empresa puede solicitar revisarlas. Para apoyar aún más a los desarrolladores, Google está proporcionando recursos como la Guía Personas + IA, que ofrece mejores prácticas para crear aplicaciones de IA responsables que se alineen con estas nuevas directrices.