Résumé

  • Ofcom enquête sur deux services pour adultes non nommés ; le dossier d’hébergement d’images vise l’évaluation des risques et les mesures ICU C14 ou leurs alternatives.
  • Le code traite une correspondance comme une preuve à examiner : une première correspondance non vérifiée appelle une revue, et les erreurs doivent être suivies et documentées.

Le dernier maillon de la chaîne pourrait toucher les paiements, mais Ofcom examine d’abord le dispositif qui précède chaque scan : l’évaluation des risques et les mesures choisies par le service.

Une empreinte numérique tient en peu de bits. Elle permet de comparer une image téléversée à des contenus déjà signalés comme images intimes non consenties. Sur le papier, le travail semble simple : comparer, repérer, retirer. Le code d’Ofcom confie au logiciel une tâche étroite et au service une responsabilité beaucoup plus large.

Le 26 octobre, Ofcom a ouvert deux enquêtes sur des services pour adultes restés anonymes : l’un héberge des images, l’autre partage du contenu adulte. Pour le service d’hébergement, le régulateur examine si l’opérateur a réalisé et actualisé une évaluation adaptée des risques de contenus illégaux, conformément à l’article 9 de l’Online Safety Act, et s’il a adopté ICU C14 ou des mesures de remplacement au titre de l’article 10. Ofcom dit avoir tu les noms en raison de la nature des sites.

Pour les services visés par C14, une première correspondance positive avec une empreinte non vérifiée, sous une configuration donnée de hachage perceptuel, appelle une revue. Les autres correspondances peuvent mener au retrait si la confiance dans la détection est suffisante ; sinon, elles doivent être examinées. Les modérateurs humains doivent revoir une proportion adaptée des contenus détectés, en tenant compte de la fiabilité du système, du préjudice lié aux images qui restent en ligne et des conséquences d’un retrait erroné.

Le réglage doit laisser des traces. La base d’empreintes doit contenir un nombre significatif d’éléments originaux, être mise à jour régulièrement et protégée contre les manipulations. Le service doit retirer les empreintes qu’il sait erronées, mesurer les faux positifs, réexaminer au moins tous les six mois l’équilibre entre précision et rappel, et consigner par écrit ses choix de configuration. Un filtre incapable d’expliquer ses erreurs a un problème de gouvernance, pas seulement de logiciel.

La chaîne commence avant le premier scan. L’article 9 impose d’évaluer les risques propres au service et de garder cette évaluation à jour. L’article 10 transforme cette analyse en mesures proportionnées : empêcher l’exposition aux contenus illégaux prioritaires, maîtriser les risques repérés, réduire leur durée de présence et agir rapidement lorsque le service en est informé. Le hachage est un outil dans cette chaîne ; le service reste responsable du résultat.

La page d’Ofcom indique que 25 services jugés à haut risque ont reçu un engagement de sa part. Plusieurs déploient le système de hachage StopNCII ; plusieurs ont bloqué l’accès depuis le Royaume-Uni, une mesure que le régulateur surveille. Deux enquêtes formelles s’ajoutent désormais à cette supervision. Les sources publiques ne nomment pas les services et ne révèlent ni leurs réglages, ni leurs taux d’erreur, ni les éléments remis à Ofcom. C’est là que se jouera l’évaluation des contrôles.

En cas de manquement établi, Ofcom peut infliger jusqu’à 18 millions de livres ou 10 % du chiffre d’affaires mondial qualifié, le montant le plus élevé étant retenu. L’article 144 peut étendre l’action aux services auxiliaires, notamment le paiement, la publicité ou l’accès à Internet. Ofcom doit saisir un tribunal ; celui-ci vérifie les conditions légales, le lien avec le service auxiliaire, la nécessité de prévenir un préjudice au Royaume-Uni et la proportionnalité, puis pèse les droits des parties et des utilisateurs britanniques. Le juge tient l’interrupteur ; Ofcom doit d’abord lui présenter son dossier.

Le contrôle repose sur un système vérifiable qui relie évaluation des risques, détection, revue humaine, correction et retrait, avec des preuves à l’appui.

Sources