Resumo

  • Em 26 de outubro, a Ofcom abriu investigações sobre dois serviços adultos sem identificar; o caso de hospedagem de imagens olha a avaliação de risco e as medidas ICU C14 ou alternativas.
  • O código trata um match como evidência a ser controlada: a primeira correspondência não verificada exige revisão, e os erros precisam ser medidos e corrigidos.

A avaliação de risco fica no começo da cadeia: é ela que define as medidas que o serviço põe em prática antes do primeiro match.

Um hash é uma impressão digital curta da imagem. O serviço compara o que alguém acaba de enviar com arquivos já identificados como imagem íntima não consensual. A máquina parece pedir uma missão simples: comparar, marcar, apagar. O código da Ofcom deixa a comparação com o software e a responsabilidade com quem opera o serviço.

Em 26 de outubro, a Ofcom abriu investigações sobre dois serviços adultos que não foram identificados: um hospeda imagens, o outro compartilha conteúdo adulto. No caso do site de hospedagem, a agência apura se o provedor fez e mantém atualizada uma avaliação adequada do risco de conteúdo ilegal, exigida pela seção 9 da Online Safety Act, e se adotou as medidas ICU C14 ou alternativas previstas na seção 10. A Ofcom diz que não revelou os nomes por causa da natureza dos sites.

Para os serviços abrangidos pela ICU C14, a primeira correspondência positiva com um hash não verificado, em uma configuração específica de hash perceptual, exige revisão do conteúdo. Outros matches podem levar à remoção quando a confiança na detecção é suficiente; nos demais casos, seguem para análise. Moderadores humanos devem revisar uma proporção apropriada e considerar a confiabilidade do sistema, o dano de manter abuso no ar e o efeito de remover por engano uma publicação legítima.

A base também precisa prestar contas. Ela deve conter um número significativo de itens originais, ser atualizada regularmente e permanecer protegida contra acesso ou interferência indevidos. Quando o serviço identifica um hash que não corresponde a abuso, deve buscar removê-lo. A configuração precisa levar em conta falsos positivos, rever ao menos a cada seis meses o equilíbrio entre precisão e cobertura e deixar um registro escrito das escolhas e das revisões. Um filtro que não explica os próprios erros tem um problema de governança.

O controle começa antes da primeira varredura. A seção 9 manda avaliar os riscos do serviço e manter a avaliação em dia; uma mudança importante de desenho ou operação exige nova análise antes de acontecer. A seção 10 transforma essa avaliação em medidas proporcionais: impedir exposição a conteúdo ilegal prioritário, administrar riscos, reduzir o tempo de permanência do conteúdo e removê-lo rapidamente quando a empresa toma conhecimento. O hash ajuda; quem responde pelo sistema é o serviço.

A página do programa diz que a Ofcom já conversou com 25 serviços que considera de alto risco. Vários estão implantando a solução de hashes StopNCII; outros bloquearam o acesso do Reino Unido, e a agência acompanha os bloqueios. As duas novas investigações fazem parte de uma supervisão maior. Os documentos públicos não revelam nomes, configurações, taxas de erro nem as provas entregues à Ofcom. São esses registros que vão mostrar se o mecanismo funciona.

Se confirmar uma infração, a Ofcom pode aplicar multa de até £18 milhões ou 10% da receita mundial qualificada, o que for maior. A seção 144 permite pedir ao tribunal uma ordem sobre serviços auxiliares, como pagamento, publicidade ou acesso à internet. O juiz precisa reconhecer os fundamentos previstos em lei, a ligação com o serviço auxiliar, a necessidade de evitar danos no Reino Unido e a proporcionalidade, além de considerar os direitos das partes e dos usuários. O juiz fica com a chave; a Ofcom precisa apresentar o pedido e as provas.

Uma operação auditável conecta avaliação de risco, correspondência, revisão humana, correção e retirada; os registros precisam mostrar cada etapa.

Fontes