要約
- 単独の文言でなく、同等の利用者、状況、結果を比較して試験すべきだ。
- 重大な差には責任者、公開基準、異議経路、改善を示す証拠が要る。
会話システムの性差別は学習資料、ラベル、製品規則、利用者の解釈から入り得る。丁寧な回答でも役割を違えて勧め、信用度を変え、特定集団で多く失敗することがある。影響のある作業を定め、言語と属性をまたぐ対の事例を試し、有害語だけでなく後続判断を調べたい。モデル変更の前後で再現でき、影響を受けた人が異議を唱えられる監査が次の証拠だ。公平性は画面の性格でなく運用規律である。
