主动学习把有限标注预算投向最有信息的样本

监督学习常把未标注样本视为被动等待处理的集合，主动学习则让模型参与决定下一批应标注什么。目标不是简单挑选“最难”的样本，而是在给定标注成本、时间和质量约束下，用较少标签获得更好的目标任务表现。它适合标注昂贵、未标注数据充足且能够反复训练的场景，例如医学影像复核、遥感地物解译和专业文档分类。

Settles 的 Active Learning Literature Survey 区分了成员查询、流式选择和池式选择，并梳理了不确定性、委员会分歧与期望模型变化等策略。主动学习是一套采样闭环，不是单一分数公式；标注者行为、数据到达方式和停止条件都会改变实际效果。

查询策略定义什么叫有信息

不确定性采样选择模型最没有把握的样本。二分类中可以挑选接近决策边界的样本，多分类中可使用最小最大概率、前两类概率间隔或预测熵。方法计算简单，但模型若校准很差，最高不确定性区域可能只是噪声、异常值或超出任务范围的数据。

委员会查询训练多个具有差异的模型，优先标注预测分歧大的样本。差异可以来自初始化、数据重采样、模型结构或后验样本。它比单模型不确定性更能反映模型不确定性，但训练成本更高，委员会成员若高度相关，分歧信号仍然有限。

期望误差降低和期望模型变化尝试估计某个标签对未来模型的影响，更接近最终目标，却需要对未知标签求期望并多次模拟更新。大规模任务常用近似。无论采用哪种策略，都要加入代表性或多样性约束，避免一批样本集中在同一局部簇。批量主动学习尤其需要处理样本间冗余。

标注成本不只有样本数量

不同样本的标注难度可能相差很大。模糊图像需要专家讨论，长文档耗时更久，罕见类别可能要求额外检测。若查询策略只最大化信息量而不计成本，有限预算会被少数极难样本消耗。更合理的目标是单位成本的信息收益，并记录标注时间、返工次数和需要的专业等级。

标注界面应允许“不确定”“无法判断”或“超出范围”，而不是强迫标注者给出错误类别。高不确定样本本来就容易暴露类别定义冲突、输入质量问题和新类别，因此主动学习也可用于修订标注规范。规范改变后，早期标签可能需要回查，数据版本必须保留。

多位标注者之间的一致性要独立监控。模型反复选择边界样本，会使后期批次天然比随机批次更难，不能把一致性下降直接归因于人员质量。可以在每批混入固定审计样本和随机样本，区分样本难度、概念漂移与标注过程变化。

采样偏差会影响评价与概率解释

主动学习得到的训练集不是从总体随机抽取，而是由历史模型选择。若直接用这批数据估计总体类别比例、准确率或校准，结果会有选择偏差。独立、按目标总体抽样的验证集必须保持不参与查询；测试集也不能因模型迭代而被反复查看。

初始种子集需要覆盖基本类别和数据区域。种子过小或缺少某类时，模型可能从不认为该区域值得查询，形成盲点。可以将不确定性选择与随机探索、分层采样或密度覆盖结合，给未知区域保留发现机会。

时间和空间数据还要避免邻近泄漏。对连续视频帧或相邻像元逐个查询，可能得到大量近重复标签；评价若随机拆分这些样本，会高估泛化。应按事件、对象、时间段或空间块组织查询和验证。

闭环需要明确的停止与回退条件

典型流程从种子标注开始，训练模型、计算查询分数、组装兼顾多样性与成本的批次、完成人工标注，再重新训练。每轮都应冻结数据快照和模型版本，记录候选池、查询原因、最终标签及被拒绝样本。这样才能重放选择过程，判断性能变化来自新增数据还是训练配置。

停止条件可以是独立验证集收益趋于平缓、预算用尽、关键类别覆盖达到目标，或新增样本的单位成本收益低于阈值。不能用查询样本上的训练性能作为停止依据。若模型升级导致查询分布突然变化，应先进行小批人工审计，必要时回退查询策略，而不是持续放大偏差。

《Artificial Intelligence: A Modern Approach》提供学习、决策与不确定性方面的基础背景：https://aima.cs.berkeley.edu/。在生产实践中，主动学习的成功标准是完整闭环：标签预算确实下降，独立评价确实改善，长尾没有被遗漏，标注过程也能稳定运行。仅展示若干高不确定样本，还不能证明主动学习有效。

冷启动和概念漂移需要保留探索流量

系统上线后不能把全部标注预算都交给当前模型的查询分数。固定比例的随机或分层样本可以估计总体变化，并发现模型从未认为“不确定”的新模式。出现新类别时，旧模型可能对它高置信地误判，纯不确定性采样反而不会选中。可把漂移检测、人工反馈和探索样本共同纳入候选池，并为紧急新类建立临时标注规范。

每轮重训还要区分累计学习与只用近期数据。只保留近期数据能快速适应，却可能遗忘稳定的长尾；无限累积则增加成本并稀释新分布。按时间、类别和来源维护可追踪样本库，再通过加权或重采样控制训练组成，比无记录地覆盖旧数据更可审计。