Resumen

  • Ofcom abrió dos investigaciones sobre servicios para adultos sin identificar; la de alojamiento de imágenes pregunta por la evaluación de riesgos y las medidas ICU C14 o sus alternativas.
  • El código trata una coincidencia como evidencia que requiere controles: la primera coincidencia no verificada se revisa y los errores deben medirse y corregirse.

El expediente empieza en la evaluación del riesgo: esa hoja de ruta define qué debe prevenir, detectar y retirar el servicio.

Un hash es una huella compacta. Permite comparar una imagen subida con material ya identificado como imagen íntima no consentida. El flujo parece fácil de automatizar: comparar, marcar, retirar. El código de Ofcom le reserva a la máquina una parte de la tarea y deja al servicio la responsabilidad completa.

El 26 de octubre, Ofcom abrió investigaciones sobre dos servicios para adultos cuyos nombres mantiene en reserva: uno aloja imágenes y el otro comparte contenido adulto. En el caso del alojamiento, pregunta si el proveedor realizó y mantiene al día una evaluación adecuada del riesgo de contenido ilegal, como exige la sección 9 de la Online Safety Act, y si adoptó ICU C14 o medidas alternativas bajo la sección 10. Ofcom afirma que no identifica los sitios por la naturaleza de su actividad.

Para los servicios comprendidos por C14, la primera coincidencia positiva con un hash no verificado, bajo una configuración determinada de hash perceptual, exige revisar el contenido. Otras coincidencias pueden llevar a la retirada cuando la confianza en la detección es suficiente; de lo contrario, deben revisarse. Los moderadores humanos deben examinar una proporción adecuada de los elementos detectados y ponderar la fiabilidad del sistema, el daño de mantener imágenes abusivas en línea y el coste de retirar por error una publicación legítima.

El código exige también un expediente. El conjunto de hashes debe reunir un número significativo de imágenes originales, actualizarse con regularidad y protegerse contra manipulaciones. El servicio debe retirar hashes que se demuestren equivocados, medir sus falsos positivos, revisar al menos cada seis meses el equilibrio entre precisión y cobertura, y dejar por escrito cómo configuró el sistema. Un filtro que no puede explicar sus errores tiene un problema de gobernanza, no solo de software.

La cadena empieza antes del escaneo. La sección 9 exige evaluar los riesgos propios del servicio y mantener esa evaluación al día. La sección 10 convierte el análisis en medidas proporcionadas: evitar que las personas encuentren contenido ilegal prioritario, gestionar los riesgos identificados, reducir el tiempo que ese contenido permanece publicado y retirarlo con rapidez cuando el servicio se entera. El hash ayuda; el servicio responde por el resultado.

La página del programa de Ofcom dice que se ha puesto en contacto con 25 servicios que considera de alto riesgo. Varios están implementando el sistema de hashes StopNCII; otros han bloqueado el acceso desde Reino Unido, y Ofcom vigila esos bloqueos. Las dos investigaciones formales se suman a esa supervisión. Los registros públicos no identifican a los servicios ni muestran sus configuraciones, tasas de error o pruebas entregadas al regulador. Esos documentos serán los que permitan juzgar el sistema.

Ofcom puede imponer, si confirma un incumplimiento, una multa de hasta 18 millones de libras o el 10% de los ingresos mundiales computables, la cifra mayor. La sección 144 lleva el asunto más lejos: el regulador puede pedir al tribunal una orden dirigida a servicios auxiliares, como pagos, publicidad o acceso a Internet. El tribunal debe verificar los requisitos legales, el vínculo auxiliar, la necesidad de prevenir daños en Reino Unido y la proporcionalidad, además de considerar los derechos de las partes y de los usuarios. El juez conserva la llave; Ofcom debe presentar sus pruebas ante el tribunal.

La prueba de fondo es una cadena auditable que una evaluación, cotejo, revisión humana, corrección y retirada, con registros que demuestren cómo funciona.

Fuentes