GeoXMind

概率如何表达模型的不确定性

区分随机性、知识不足与预测置信，说明条件概率和分布怎样约束模型判断。

概率如何表达模型的不确定性

机器学习面对的不是一个完全可知的世界。观测可能带有噪声，同样的输入可能对应不同结果，训练数据也只能覆盖真实环境的一部分。概率提供了一套描述不确定性的语言，但模型给出的概率数字只有在事件定义、数据条件和校准方式明确时才有意义。

随机变量把可能结果组织起来

随机变量不是“随机变化的普通变量”，而是把每种可能结果映射为数值的规则。分类任务中的类别、回归任务中的连续目标、传感器是否失效，都可以作为随机变量。概率分布描述各类结果出现的可能性，期望则按概率对结果加权。

分布总有适用范围。根据某地区历史数据估计的降雨分布，不能无条件用于另一个气候区；从训练样本得到的类别比例，也可能与部署环境不同。概率模型需要说明它针对的总体、时间和采样过程。

条件概率表达已有信息

模型预测通常是条件性的：在观察到输入特征之后，目标结果的概率如何变化。写作 (P(Y\mid X)) 并不意味着输入完整解释了结果，只表示概率是在给定这些信息的条件下讨论。遗漏变量、测量误差和选择偏差仍会影响估计。

贝叶斯规则把先验信息、观测证据和更新后的概率联系起来。它常用于诊断和推断，但先验与似然都需要真实依据。把任意主观数字放进公式，并不会自动产生客观结论。

两类不确定性需要不同处置

数据本身的随机性常被称为偶然不确定性。例如相同气象条件下，局部降水仍有自然变化。知识或模型不足形成的不确定性，则可能通过更多代表性数据、改进模型或增加测量来降低。两者在实践中经常混合，不能仅凭模型输出区分。

当输入远离训练分布时，分类器仍可能给出很高的最大概率。这是因为常见训练目标主要要求在已见分布上区分类别，并不天然要求识别未知环境。高置信输出因此不是“模型知道自己正确”的证明。

概率值还需要校准

如果大量预测为 0.8 的样本中约有八成发生目标事件，可以说这组预测在相应条件下较好校准。校准关注概率与长期频率是否匹配，区分能力则关注正负样本能否被排序。一个模型可能排序很好却概率过度自信，也可能校准尚可却没有足够区分能力。

校准结果依赖验证数据。数据比例、时间和使用人群变化后，应重新检查。阈值也要根据误报和漏报代价选择，不能因为输出大于 0.5 就一律采取行动。

风险决策不能只看模型概率

NIST AI RMF 强调在具体情境中识别、测量和管理风险。模型概率只是决策证据之一，还要结合后果、可逆性、人工复核和监测能力。即使某事件预测概率很低，如果后果严重且缺少补救，也可能需要额外控制。

可靠的概率表达应附带事件定义、数据范围、模型版本、评价时间和校准证据。数字越精确，不代表知识越充分；可追溯的条件比更多小数位更重要。

资料依据