요약

  • 10월 26일 Ofcom은 이름을 밝히지 않은 성인 대상 서비스 두 곳에 대한 조사를 시작했다. 이미지 호스팅 사건은 9조 위험평가와 10조의 ICU C14 또는 대체 조치를 살핀다.
  • C14에서 해시는 자동 판결이 아니다. 검증되지 않은 해시의 첫 일치는 검토 대상이며, 서비스는 오탐을 측정하고 잘못된 해시를 바로잡아야 한다.

통제의 첫 문서는 해시 목록이 아니라 위험평가다. 서비스가 무엇을 막고 어떻게 대응할지 이 문서가 운영으로 연결한다.

해시는 이미지의 짧은 지문이다. 새로 올라온 파일을 이미 비동의 사적 이미지(NCII)로 확인된 자료와 비교하는 데 쓰인다. 기계에 “일치하면 지워”라고 시키면 끝날 일처럼 보인다. Ofcom의 규정은 기계가 찾게 하되, 판단과 책임은 서비스에 남긴다.

10월 26일 Ofcom은 성인 대상 서비스 두 곳에 대한 조사를 시작했다. 한 곳은 이미지를 호스팅하고, 다른 곳은 성인 콘텐츠를 공유한다. 이미지 호스팅 사건에서는 온라인 안전법 9조에 따른 적절한 불법 콘텐츠 위험평가와 최신 상태 유지 여부, 10조 의무를 위한 ICU C14 조치 또는 대체 조치 도입 여부를 따진다. Ofcom은 사이트의 성격을 이유로 서비스와 제공자 이름을 공개하지 않았다.

C14 적용 대상 서비스에서는 검증되지 않은 해시가 특정 지각 해시 설정에서 처음 양성 일치를 내면 해당 콘텐츠를 검토해야 한다. 다른 일치는 탐지 신뢰도가 충분하면 삭제할 수 있고, 그렇지 않으면 검토로 넘겨야 한다. 사람 검토는 적절한 비율을 유지하고 시스템 신뢰도, 피해 이미지가 온라인에 남는 위험, 합법적인 게시물을 잘못 삭제할 때 이용자가 입는 영향을 함께 따져야 한다.

해시 데이터베이스에도 관리가 필요하다. 상당수 원본 항목을 포함하고, 정기적으로 갱신되며, 무단 접근과 변조를 막아야 한다. NCII가 아닌 것으로 확인된 해시는 제거를 추진해야 한다. 설정에서는 오탐 비율을 고려하고, 정밀도와 재현율의 균형을 최소 6개월마다 점검하고, 설정 근거와 검토 내역을 문서로 남겨야 한다. 오류를 설명하지 못하는 필터는 소프트웨어 결함에 더해 거버넌스 문제를 안고 있다.

통제는 첫 스캔 전에 시작된다. 9조는 서비스 고유의 위험을 평가하고 최신 상태로 유지하게 한다. 설계나 운영을 크게 바꾸기 전에는 다시 평가해야 한다. 10조는 그 평가를 비례적 조치로 연결한다. 우선 불법 콘텐츠 노출을 막고, 식별된 위험을 줄이며, 불법 콘텐츠가 머무는 시간을 최소화하고, 알게 된 뒤 신속히 삭제해야 한다. 해시는 한 도구다. 운영 결과의 책임은 서비스에 있다.

Ofcom의 프로그램 페이지에 따르면 Ofcom은 고위험으로 보는 서비스 25곳과 사전 접촉했다. 여러 서비스가 StopNCII 해시 매칭을 도입 중이고, 여러 곳은 영국 접근을 지오블록했으며 Ofcom은 이를 계속 살핀다. 이번 공식 조사 두 건은 그보다 넓은 감독 활동의 일부다. 공개 기록에는 업체 이름, 매칭 설정, 오류율, 제출 증거가 없다. 통제가 실제로 작동하는지는 그 문서들이 말해 줄 것이다.

위반을 확인하면 Ofcom은 1,800만 파운드 또는 산정 대상 세계 매출의 10% 중 더 큰 금액까지 벌금을 부과할 수 있다. 144조는 결제, 광고, 인터넷 접속 같은 보조 서비스에도 법원의 제한 명령을 신청할 수 있게 한다. 법원은 법정 요건, 보조 서비스와의 연관성, 영국 내 피해 예방의 필요성 및 비례성을 확인하고 당사자와 이용자의 권리도 고려한다. 스위치는 법원이 쥔다. Ofcom은 먼저 신청과 증거를 내야 한다.

감사 가능한 통제 흐름은 위험평가, 매칭, 사람의 검토, 오류 수정, 삭제를 잇고, 각 단계가 기록으로 확인돼야 한다.

출처