模型解释必须说明对象、用途与忠实度

“解释模型”可能指向几件不同的事：帮助开发者理解整体规律，说明某一次预测为何出现，向受影响的人提供可申诉理由，或证明系统满足监管要求。这些目标需要不同证据。一个对调试有帮助的特征图，不一定对业务用户有意义；一段容易理解的话，也不一定忠实反映模型计算。

解释的第一步不是选择图表，而是确定接收者要据此做什么。开发者需要发现泄漏和伪特征，审核人员需要检查控制是否执行，用户可能需要知道怎样纠正数据。若解释无法支持相应行动，再精美的可视化也只是描述性附件。

可解释模型与事后解释不是同一层

线性模型、浅层规则和小型决策树的计算关系可以直接检查，但“可见”不等于“容易理解”。大量交互、强相关特征和复杂预处理会让简单模型同样难以解释。系数还依赖变量尺度、编码和其他变量是否进入模型，不能脱离训练管道单独阅读。

复杂模型常借助事后方法生成解释。代理模型在局部或全局近似原模型，特征归因把输出差异分配给输入，反事实寻找能改变结果的最小修改。它们描述的是近似或特定定义下的贡献，不是把黑箱自动变成透明系统。

解释对象必须包括完整决策链。若模型分数之后还有阈值、规则、人工审批和资源配额，只解释模型输出会漏掉真正决定结果的步骤。面向用户的理由应来自最终决策证据，而不是把一个中间分数包装成结论。

全局方法关注特征、响应形状和交互在总体数据上的表现。置换重要性观察打乱一个特征后性能下降多少；它依赖评价数据和指标。两个高度相关特征可互相替代，打乱其中一个时重要性很低，并不表示它没有信息。

部分依赖固定其他变量的经验分布，观察目标特征变化时平均预测怎样变。若特征之间强相关，计算可能组合现实中不存在的取值。个体条件期望能显示不同样本的响应差异，却仍不提供因果效果。

全局解释应分群检查。总体趋势可能由两个方向相反的群体平均而成。样本覆盖、缺失机制和权重也要同时展示，否则稀疏区域的曲线会给出虚假确定感。

局部解释试图说明一个样本相对某个基线为何得到当前输出。基线可以是零值、总体均值或参考人群，不同选择会改变归因。对图像遮挡、文本删除或表格特征替换时，产生的新样本可能离开真实数据分布。

归因值常满足某种加和关系，但加和完整不代表语义正确。特征工程把一个业务概念拆成多个变量，贡献会在它们之间分散；嵌入和交互又难以映射回人类概念。解释层应保留从原始字段到模型特征的映射，并说明无法可靠还原的部分。

稳定性是基本检查。对业务等价的小变化，解释若大幅翻转，使用者就无法据此行动。稳定解释也可能稳定地错误，因此还要通过已知机制、合成数据或可控模型检查忠实度。

反事实解释给出“哪些变化会让结果不同”。数学上最小的改变可能不可行动，例如改变年龄、历史事件或互相约束的字段。可行性需要领域规则、时间顺序和成本约束。

多个可行反事实比单一答案更有用，因为不同人能采取的行动不同。但系统不能暗示照做必然得到结果：模型版本、数据更新和其他审批条件都可能变化。反事实描述的是当前决策函数附近的行为，不是世界的因果承诺。

忠实度检查解释是否准确反映系统过程，可用遮挡、删除、替代或与原模型的一致性测量。易懂程度则取决于受众能否正确回答问题、发现错误并作出适当决定。两者没有单一通用指标。

人因测试应观察误用。解释可能让人过度相信错误预测，也可能因信息过多而降低判断质量。展示不确定性、知识边界和替代证据，通常比提供确定语气的单一理由更诚实。

NIST 提出的解释、对个体有意义、解释准确性和知识限制可以作为检查维度。它们没有规定一种算法，而是要求系统明确为何提供解释、解释面向谁，以及何时应拒绝给出超出能力的说明。

详细归因可能暴露敏感特征、模型规则或攻击路径。面向开发者、审核者和外部用户的解释深度应按权限分层，并保留访问审计。为了隐藏风险而提供虚假理由同样不可接受，应改用经过审查的证据范围。

解释产物需要绑定模型、数据、阈值和代码版本。模型更新后继续展示旧规则，会产生比没有解释更严重的误导。发布门禁应验证解释能生成、字段映射正确、敏感信息已处理，并用代表性案例复核。

模型解释的价值不在于让所有系统看起来合理，而在于帮助具体的人检验、质疑和纠正具体决策。只有对象、受众、忠实度、可理解性和风险同时明确，解释才是治理证据而不是装饰。