无监督学习在寻找什么
解释没有目标标签时可以发现哪些结构,以及聚类、降维和密度估计不能回答什么。
无监督学习在寻找什么
无监督学习没有为每个样本提供目标标签,算法转而根据表示和目标函数寻找结构。它可以发现分组、低维变化或概率密度,但“没有标签”不等于“没有假设”。距离、邻域、分布形式和簇形状都由方法预先规定。
结构由表示和度量共同定义
同一批对象可以按颜色、大小、位置或使用行为分组。选择特征和尺度后,算法才有判断相似的依据。文本嵌入中的接近、地理坐标中的接近和业务属性中的接近,表达的是不同关系。
高维空间中,距离可能集中,少量尺度较大的特征也会主导结果。标准化、特征选择和领域约束因此属于分析的一部分,不是无关的预处理。
聚类没有唯一正确答案
基于中心的方法偏好紧凑簇,密度方法寻找高密区域,层次方法形成多尺度分组。同一数据可以支持多个合理划分,簇数量和边界取决于研究问题。
内部指标只衡量紧凑或分离等数学性质,不能证明分组具有业务意义。聚类结果需要通过稳定性、外部知识和后续用途复核,不能看到颜色分组后再为每簇编造解释。
降维保留部分变化
降维把高维数据映射到较少维度,用于压缩、去噪或可视化。线性方法寻找主要方差方向,非线性方法可能保留局部邻域。二维图上的分离不一定代表原空间存在清晰类别,因为映射会扭曲距离和密度。
用于可视化的参数变化可能大幅改变图形。报告结果时要保存算法、随机种子和参数,并在原任务上验证低维表示是否保留需要的信息。
密度与异常依赖正常范围
密度估计描述数据在空间中的分布,异常检测寻找低密度或不同于常见模式的样本。罕见不等于错误,异常也可能是最有价值的新事件。训练数据如果遗漏某类正常情况,模型会把它误报为异常。
阈值应结合调查能力和后果设置。没有后续核验流程的异常分数,只会形成无法消化的候选列表。
探索结果不能替代确认
无监督方法适合提出假设、发现数据质量问题和构造表示。它们不能自动给簇命名,也不能从相关结构推导因果。后续可以通过标注样本、领域评审和独立数据验证结构是否稳定。
scikit-learn 用户指南区分聚类、降维、密度和异常检测等任务,《Deep Learning》讨论表示学习与概率建模。实际使用应从希望保留的关系出发选择方法,而不是先运行算法再寻找问题。
结果复现还要求保存输入数据版本、特征处理、初始化和停止条件。仅保存一张聚类图无法判断结构来自数据还是参数。若结果将用于资源分配或人员判断,还应记录未被稳定分组的样本,并允许领域人员拒绝不合理的簇解释。
资料依据
- scikit-learn Project:User Guide,https://scikit-learn.org/stable/user_guide.html
- Ian Goodfellow、Yoshua Bengio、Aaron Courville:《Deep Learning》在线版,https://www.deeplearningbook.org/