Резюме
- Проверки промптов должны охватывать сопоставимых пользователей, контексты и последствия, а не изолированные формулировки.
- У существенных расхождений должны быть ответственные, критерии выпуска, маршруты апелляции и подтверждение того, что исправления сработали.
Сексизм в диалоговой системе может проникать через обучающие материалы, разметку, правила продукта и то, как интерпретируются запросы пользователей. Отполированный ответ всё равно может рекомендовать разные роли, по-разному оценивать надёжность сведений или чаще давать сбои для одной группы. Командам следует определять значимые задачи, проверять сопоставимые сценарии на разных языках и для разных идентичностей и анализировать последующие решения, а не только метрики токсичности. Следующее полезное доказательство — воспроизводимый аудит до и после изменения модели, при котором затронутые люди могут оспорить результат.
Справедливость — это операционная дисциплина, а не черта характера, которую приписывает себе интерфейс.
