• Google met à jour ses directives pour les applications d'IA sur Google Play afin de prévenir les contenus inappropriés et nuisibles.
  • Les applications d'IA ne doivent pas générer de contenu sexuel, de violence ou d'autres matériels interdits et doivent proposer des fonctionnalités de signalement pour les utilisateurs.
  • Les développeurs doivent tester rigoureusement les outils d'IA pour la sécurité des utilisateurs et respecter les nouvelles consignes promotionnelles pour éviter les allégations trompeuses.

Notre avis
Les nouvelles politiques strictes de Google sur les applications d'IA constituent une réponse vitale à l'utilisation abusive de l'IA pour créer des deepfakes nues. Ces mesures sont cruciales pour freiner les pratiques d'applications contraires à l'éthique et protéger la vie privée et la sécurité des utilisateurs sur Google Play.
—Lydia Luo, BTW reporter

Google resserre la réglementation pour les applications d'IA disponibles sur Google Play. La société a annoncé jeudi de nouvelles mesures visant à limiter la distribution de contenus inappropriés générés par les applications d'IA. Les développeurs doivent désormais respecter des règles plus strictes garantissant que le matériel généré par l'IA reste approprié, avec de nouvelles dispositions pour les commentaires des utilisateurs et la modération du contenu.

Prévenir les contenus inappropriés

Les directives révisées de Google exigent que les applications d'IA soient conçues pour empêcher la génération de contenus interdits, y compris le matériel sexuel, la violence et d'autres résultats prohibés. Les développeurs doivent désormais mettre en œuvre des filtres de contenu robustes et fournir aux utilisateurs des mécanismes pour signaler tout matériel offensant. Cette initiative fait partie de la stratégie plus large de Google pour maintenir un environnement numérique sûr et protéger la vie privée des utilisateurs sur sa plateforme.

De plus, les applications doivent être rigoureusement testées pour s'assurer qu'elles respectent ces normes de contenu avant de pouvoir être distribuées sur Google Play.

À lire aussi: Démasquer les illusions des deepfakes et se protéger de la tromperie

Répression du marketing trompeur

Google s'attaque également aux problèmes de pratiques de marketing trompeur dans les applications d'IA. Certaines applications ont été promues en prétendant générer des deepfakes nues non consensuelles ou en se livrant à d'autres activités contraires à l'éthique. Par exemple, des publicités pour de telles applications sont apparues sur les réseaux sociaux, suggérant faussement qu'elles pouvaient créer des images nues de personnalités publiques ou d'individus sans leur consentement. Les nouvelles politiques de Google interdisent la promotion d'applications d'IA avec de tels cas d'utilisation trompeurs, et toute application reconnue coupable de violation de ces directives de marketing risque d'être retirée du Google Play Store, quelles que soient ses capacités réelles.

À lire aussi: Pourquoi les aperçus d'IA de Google tournent souvent mal

Responsabilité des développeurs et meilleures pratiques

En vertu de la réglementation mise à jour, les développeurs sont tenus de garantir que leurs applications d'IA ne peuvent pas être manipulées pour générer du contenu préjudiciable ou offensant. Cela comprend des processus rigoureux de test et de retour d'information, où les développeurs peuvent utiliser la fonction de test fermé de Google pour recueillir les commentaires des utilisateurs sur les premières versions de leurs applications. Google recommande aux développeurs de documenter minutieusement ces tests, car l'entreprise peut demander à les examiner. Pour aider davantage les développeurs, Google fournit des ressources telles que le guide People + AI Guidebook, qui propose les meilleures pratiques pour créer des applications d'IA responsables, conformes à ces nouvelles directives.