模型卡要交代模型能做什么、怎样测过和不该怎样使用

模型文件通常只告诉运行时如何计算，不能说明它为何被训练、在哪些人群上测过、阈值如何选、已知会在哪些条件下失败。模型卡把这些背景和证据放到模型发布单元旁边，使使用者在接入前能判断它是否适合自己的任务。

模型卡不是一张固定表格，也不是给模型贴上的合格标签。它是一份随版本维护的边界说明，内容应由预期用途和风险决定。高影响决策需要更细的分组表现、人工监督和限制，低风险内部工具可以更简洁，但都要让结果能够追溯到具体模型和评价。

先固定模型身份和责任边界

标题之外，应记录模型版本、发布日期、所有者、联系方式、许可证和依赖的基础模型或外部服务。相同产品名下可能有不同权重、词表、预处理和安全策略，没有不可变标识就无法知道一份指标对应哪个产物。

模型卡还应说明模型是独立组件还是更大系统的一部分。搜索排序模型的离线指标不包含界面位置、候选召回和人工运营的影响；生成模型的输出也可能经过检索、过滤和审核。把系统能力全部归给模型，会让适用边界失真。

维护责任要具体到角色。谁批准发布，谁接收缺陷，谁在数据变化后复测，谁有权撤回版本，都应可查。只写组织名称而没有处理流程，问题发生时仍找不到责任入口。

应分别写明主要用途、可接受的辅助用途、未评价用途和明确禁止用途。用途描述至少包含使用者、输入来源、输出如何被消费和决策风险。例如“文本分类”过于宽泛，“为内部客服工单提供主题候选，最终由坐席确认”才足以界定责任。

限制不能只写“请谨慎使用”。应指出哪些语言、地域、时间、设备或内容类型覆盖不足，是否不能用于自动拒绝、高风险诊断或身份判断，以及需要怎样的人工复核。模型在某个基准上领先，并不能支持超出评价范围的新用途。

原始 Model Cards 论文强调记录目标使用者与超出范围的使用情境。这样做不是降低产品价值，而是避免下游把通用接口误解为通用能力。无法列尽所有误用时，也应给出判断原则和升级渠道。

每个指标都要连接到数据集版本、划分方式、样本数量、时间范围、预处理、阈值和计算代码。准确率、F1、AUC 或困惑度脱离这些条件后无法复核，也无法与其他报告直接比较。

评价集与训练集的关系要说明。公开基准可能被反复用于调参，内部数据也可能因同一主体跨集合而泄漏。若标签来自人工，应描述说明书、复核和分歧；若使用模型生成标签，要说明生成方式及其偏差风险。

总体结果应按与用途相关的条件分解。人群、语言、设备、地域、亮度和输入长度都可能形成性能断层。交叉子群样本少时，需要同时给出样本量和不确定性，不能用一个极端百分比制造确定结论。

生成式或开放输出模型还需要超出单一正确答案的评价，包括事实支持、拒答、危险内容、提示敏感性和人工偏好。自动评审模型的身份、提示和一致性也属于评价条件，不能隐藏在“人工质量分”之后。

模型卡可以概述训练数据来源、时间范围、许可、代表性、过滤和敏感信息处理，并链接到更完整的数据集文档。它不应公开个人数据、商业密钥或可被利用的安全细节，但保密也不能成为不说明来源边界的理由。

训练方法应记录足以解释行为和复现实验的关键信息，例如目标函数、主要超参数、随机性、算力范围和选择最终检查点的依据。依赖外部基础模型时，应记录供应商版本和变更策略，因为远程服务静默升级会让模型卡迅速失效。

环境与社会影响应按实际相关性报告。训练资源、能耗估计、数据劳动条件或内容审核风险不能用空泛声明代替证据。没有可靠测量时，明确“尚未测量”比给出装饰性数字更诚实。

已知失败模式应描述触发条件、后果和缓解方式。例如低光图像导致漏检时，要说明是否有输入质量门禁、回退方案和人工检查，而不仅是列出“低光性能下降”。未解决问题也应保留，不能因版本发布而从文档删除。

公平、隐私、安全和鲁棒性风险之间可能互相影响。提高某个群体召回率可能增加另一类误报；记录更多输入用于监测可能引入隐私风险；公开过细攻击样例可能帮助绕过防护。模型卡应记录已做的取舍和批准依据。

NIST AI RMF 把文档、测量和风险治理放在持续循环中。模型卡因此需要版本化：模型、数据、阈值、用途或监测策略改变时，都应产生新修订；仅改文字也要留下变更原因，避免同一链接在事后改写历史。

上线后要把模型卡与监控面板、事件记录、用户反馈和再评价连接起来。数据漂移不必然导致质量下降，指标稳定也不证明风险不变，因此需要同时观察输入覆盖、业务结果、分组错误和人工处置。

退役模型仍要保留历史模型卡。审计某次决策时，需要知道当时使用的版本和当时已知的限制，而不是读取今天的最新版。模型注册表可保存不可变产物摘要，文档系统则保存人可读说明，两者用版本标识关联。

一份有效模型卡不会替使用者作最终决定。它提供足够证据，让接入方知道哪些结论已经测过、哪些仍是未知，并能在超出边界前停止。透明度的价值在于支持审慎使用，而不是让风险声明看起来更完整。

Margaret Mitchell 等：Model Cards for Model Reporting，https://arxiv.org/abs/1810.03993
National Institute of Standards and Technology：Artificial Intelligence Risk Management Framework 1.0，https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf