요약

  • Ofcom은 생성형 AI 검색 API 여덟 개와 기존 검색 API 세 개를 시험했다. 생성된 답변의 문장과 검색 과정에서 가져온 URL은 서로 다른 방법과 분모로 분석했다.
  • 잔혹한 폭력 영상을 적극적으로 찾는 질문의 유효 응답 가운데 29.76%가 Ofcom 참고 목록의 최고 위험 단계에 속한 도메인을 하나 이상 가져왔다. 이 비율은 검색 기록에 관한 수치다.

검색창은 하나지만, 뒤에는 서랍이 둘이다. 하나에는 사용자에게 건넬 답변이 있고, 다른 하나에는 그 답변을 만들기 전에 검색한 주소가 있다. Ofcom의 10월 22일 원자료는 두 서랍을 따로 열었다. 문장이 얼마나 안전했는지를 매긴 점수로 주소 검색 경로까지 결산할 수 없기 때문이다. 두 분석에 들어간 API 집합과 분모부터 다르다.

연구진은 유해 콘텐츠 종류마다 질문 100개를 만들었다. 50개는 유해한 자료를 직접 찾았고, 나머지 50개는 관련 단어를 썼지만 그런 자료를 요구하지 않았다. 2026년 8월 3일부터 5일까지 세 차례에 걸쳐 생성형 검색 API 여덟 개와 기존 검색 API 세 개에 보냈다. Ofcom은 그 뒤인 2026년 10월 22일 연구 결과를 공개했다. 제공업체 이름은 공개하지 않았다. 생성형 답변의 문장에는 세 평가 모델이 만장일치로 동의해야 ‘유해’ 판정을 붙였다. 두 질문군을 합치면 폭력 관련 답변의 3.78%, 신체 낙인 관련 답변의 3.07%가 그렇게 분류됐다. 판정이 갈린 비율도 각각 16.67%와 10.21%였다. 마지막 칸을 비워 놓고 첫 숫자만 읽으면 시험이 실제보다 단정해 보인다.

주소 서랍에서는 열한 API가 모두 대상이다. Ofcom은 검색된 URL을 포르노그래피와 잔혹한 폭력 영상 관련 도메인의 자체 참고 목록과 대조했다. 후자를 적극적으로 찾는 질문에서는 응답의 29.76%가 최고 위험 단계 도메인을 하나 이상 가져왔다. 같은 주제어를 쓰되 유해 자료를 요구하지 않은 질문에서는 7.27%였다. 포르노그래피 관련 수치는 각각 20.28%와 0.59%다. 한 응답에 여러 도메인이 걸리면 가장 높은 위험 단계로 표시했다. 이 값은 응답의 비율이지 인터넷 전체 주소의 비율이 아니다.

생성형 API가 주소를 찾아도 최종 답변에 그 주소를 사용하거나 인용하거나 보여 주었는지는 별도 기록이 알려 준다. Ofcom은 개발자용 API를 시험했으며 아동이 접하는 소비자용 화면을 조사한 것은 아니다. 제63조 보고서는 이 실험을 법 제63조에 따른 아동의 유해 콘텐츠 접촉 검토에 보조 자료로 쓴다. 서버가 가져온 주소와 아이가 본 화면 사이에는 제품의 표시 결정이 있다. 열두 살이라는 연령 신호도 일부 API에만 전달할 수 있었고, 영국에서 온 요청으로 처리됐는지도 모두 확인하지 못했다.

위험 도메인 목록에는 또 하나의 날짜가 붙는다. 일부 평가는 8월 시험보다 앞서 이뤄져, 사이트가 나중에 연령 확인이나 영국 차단을 추가했다면 목록이 그 변화를 즉시 담지 못한다. 다음 조사는 특정 주소의 위험 판정일, API 검색일, 제품 표시일을 나란히 놓아야 한다. 답변 서랍의 장부를 링크 서랍에 복사해 붙이는 일은 그만해도 된다.

공식 원자료