要約

  • Ofcomの原資料は生成AI検索API八種と従来型検索API三種を試した。生成された回答の文章と、検索が取得したURLは別の分析にかけている。
  • 有害な暴力映像を積極的に探す質問では、有効なAPI応答の29.76%がOfcomの参照リストで最高リスク層に入るドメインを少なくとも一つ取得した。これは取得記録の値だ。

検索窓は一つでも、監査に必要な台帳は二冊ある。画面に向けて組み立てる回答文と、その前段で探し出したURLの記録だ。Ofcomは10月22日に公表した独自研究で、両者を意識して分けた。回答の安全性だけを見ても、取得先の検査を終えたことにはならない。二つの割合を直接比べることもできない。測定対象が違うからだ。

研究チームは害の種類ごとに百の質問を用意し、半分は有害な素材を積極的に求め、残りは関連語を使いながら求めなかった。2026年8月3日から5日にかけて三回、生成AI検索API八種と従来型検索API三種へ送った。提供者名は匿名だ。文章の判定は生成AIの回答だけに適用し、三つの評価モデルが全員一致した場合に「有害」とした。積極的な質問とそうでない質問を合わせると、暴力関連の回答で3.78%、身体への侮辱で3.07%が有害と判定された。一方、意見が揃わなかった回答はそれぞれ16.67%と10.21%。判定不能の山を脇へ退けて一つの数字だけ示せば、試験の精度を過大に見せてしまう。

URLの調査は十一のAPIすべてが対象になる。Ofcomは取得されたアドレスを、ポルノや残虐な暴力映像に関連するドメインの参照リストと照合した。後者を積極的に探した質問では、応答の29.76%が最高リスク層のドメインを少なくとも一つ拾った。話題には触れるが有害な素材を求めない質問では7.27%だった。ポルノ関連の対応する値は20.28%と0.59%である。一つの応答に複数の一致があれば最も高いリスク層を採る。分母は応答であり、ネット全体のURL数ではない。

生成AI側でURLが取得されても、そのURLを最終回答の作成に使ったか、出典欄に載せたか、ユーザーに見せたかは別の記録が必要だ。Ofcomが操作したのは開発者向けAPIで、子ども向けの製品画面ではない。親報告書はこの実験を法律第63条に基づく検討の補助資料として使う。法律が問う子どもの接触と、今回測ったサーバー内の取得は、その間に製品という段階がある。十二歳という条件を伝えられたAPIは一部に限られ、英国からの検索として処理されたかも全件で検証できなかった。

さらに、参照リストのリスク判定日と8月の取得日は必ずしも同じではない。次に確認すべきは、特定のドメインの判定日、APIが拾った日、製品がリンクを実際に表示した日だ。回答を点検した担当者が、URL台帳にも同じ日付印を押したつもりになる。その取り違えこそ、二冊に分けたOfcomの資料が防ごうとするものだ。

公的原資料