公平性评估要同时检查群体差异与使用情境

模型在总体测试集上的准确率很好，并不意味着它对所有人都同样可靠。多数群体样本往往支配总体指标，数量较少、标注困难或历史上服务不足的群体可能被平均值遮住。公平性评估首先要把“谁受到什么决定影响”说清，再选择能反映该决定后果的分组和指标。

这里的公平不是一个脱离情境的数学常数。贷款预审、医学筛查、内容推荐和设备故障检测面对的权利、成本和容错条件不同。NIST SP 1270 把偏差放在社会技术系统和完整生命周期中考察，提醒评估者同时关注数据、人的决策、制度流程和部署环境，而不只检查算法输出。

从决定和可能伤害开始

评估前应描述模型输出如何进入流程：它是给人提供线索，还是自动拒绝请求；错误能否申诉；决策多久发生一次；一次错误会造成短暂不便还是长期损失。只有知道假阳性和假阴性分别伤害谁，混淆矩阵中的差异才有实际含义。

受保护属性不是唯一需要观察的分组。地域、语言、年龄段、设备类型、采集渠道和业务阶段都可能形成性能断层。分组应来自使用情境和风险分析，不能只因为字段容易取得。某些敏感属性若不采集，团队也许无法发现差异；若采集，又必须有明确目的、访问边界和保留期限。

公平目标还需要利益相关者参与。开发者看到的是指标，业务人员知道流程，受影响者知道错误如何落到现实生活。若只由模型团队定义“可接受”，技术上整齐的目标可能绕开真正的伤害。

二分类常比较各组的召回率、假阳性率、精确率、选择率和校准。它们回答的是不同问题。召回率接近表示真实阳性被发现的比例相近；假阳性率接近关注真实阴性被误报的比例；校准关注相同预测概率是否对应相近的实际发生率。

这些指标不能随意互换。群体基准率不同、模型又不完美时，多种公平条件通常无法同时完全成立。此时必须回到具体成本，说明为何优先某项、牺牲了什么，以及谁批准了取舍。把某个比率写进门禁，并不能消除价值判断。

阈值也会改变差异。统一阈值看起来一视同仁，却可能让不同基准率和误差分布的群体承受不同结果；分组阈值可能改善某项指标，又带来法律、伦理和操作问题。评估报告应同时给出分数分布、阈值前后的指标和决策量，避免只展示最有利的一点。

回归、排序和生成任务同样需要分解。回归可以比较误差分布与系统性高估或低估；排序要观察曝光、位置和相关性；生成系统则要结合任务成功率、拒答、刻板印象和人工复核。不能把二分类的一套指标机械移植到所有任务。

只按单一属性切分会掩盖交互影响。一个模型可能在性别和年龄两个单独维度上看似稳定，却在某个年龄与性别组合中表现很差。Model Cards 的原始工作明确建议报告与用途相关的群体和交叉群体表现，目的就是让发布者展示模型在不同条件下的真实边界。

交叉越细，样本越少，估计越不稳定。报告小样本结果时应给出样本量、置信区间或重采样区间，并标记无法作可靠判断的单元。看到一个极端比率后直接下结论，可能只是随机波动；因为样本少而完全不报告，也会永久隐藏该群体。

可以预先定义高风险子群，再用探索分析寻找未预期断层。探索发现必须在独立数据上复核，否则不断切片会产生多重比较问题。对连续属性，任意分箱还可能制造边界跳变，应结合领域含义检查不同切分方式是否改变结论。

性能差异可能来自样本覆盖、标签定义、测量误差、历史决策或真实任务难度，不能自动归因于模型结构。例如历史审批结果用作标签时，被拒绝者可能没有后续结果，标签本身就带有选择机制；医疗记录缺失可能反映无法获得服务，而不是没有疾病。

评估集必须接近预期部署人群，并与训练数据隔离。若同一主体、家庭或地点跨集合出现，子群指标也会被泄漏抬高。采样权重和过采样会改变观察分布，报告时要区分原始计数、加权估计和部署基准率。

标签质量也要分组检查。某些群体的传感器测量更差、文本方言更难标注，或者人工审核标准不一致。模型差异和标签差异混在一起时，单靠重训模型很难解决，需要修改采集、标注或业务流程。

可执行的评估应保存模型版本、数据版本、切分规则、分组定义、阈值、指标代码和审批结论。模型卡适合汇总这些证据，但原始明细和可重复计算仍应留在受控系统中。公开报告还要避免因小样本表格泄露个体信息。

上线后，输入人群、政策和使用方式都会变化。监测应比较分组覆盖、缺失率、分数分布、关键错误和申诉结果，并设定触发复核的条件。真实结果有较长延迟时，可先监测代理信号，但必须标明代理与最终伤害之间的距离。

公平性评估的可靠结论通常不是“模型公平”，而是更具体的陈述：在某个版本、数据范围、阈值和使用流程下，哪些群体证据充分，哪些差异仍存在，谁承担后续行动。这样的结论更克制，也更便于复核和改进。

National Institute of Standards and Technology：Towards a Standard for Identifying and Managing Bias in Artificial Intelligence，https://www.nist.gov/publications/towards-standard-identifying-and-managing-bias-artificial-intelligence
Margaret Mitchell 等：Model Cards for Model Reporting，https://arxiv.org/abs/1810.03993