实例分割要同时区分类别、对象与像素边界
区分语义分割、目标检测和实例分割,说明区域对齐、掩膜预测、遮挡与边界误差如何影响结果。
实例分割要同时区分类别、对象与像素边界
实例分割不仅要判断每个像素属于什么类别,还要把同类对象彼此分开。两辆相邻汽车在语义分割中都可以标为“汽车”,实例分割则必须输出两个独立掩膜,并为每个掩膜关联类别和置信分数。它处在目标检测与像素分割的交叉位置。
掩膜比边界框提供更细的形状信息,但不天然等于精确测量。图像分辨率、标注规则、遮挡和模型输出栅格都会影响边界。使用实例分割结果计算面积、周长或对象数量前,需要先确认误差是否满足测量目的。
三类视觉任务回答不同问题
目标检测输出对象的矩形范围,不能描述对象内部哪些像素属于前景。语义分割为每个像素分配类别,却不区分相邻同类对象。实例分割把每个对象作为单独实体,适合计数、轮廓分析和对象级跟踪。
全景分割进一步要求覆盖可数对象与道路、天空等不可数背景,并解决像素归属冲突。任务名称相近,输出契约并不相同。数据集、标注工具、评价指标和后处理都必须围绕实际输出定义,不能在上线后再靠规则补出缺少的实例身份。
实例定义有领域差异。一簇紧密生长的树冠应算一个还是多个对象,一辆被遮挡的汽车是否仍标完整轮廓,都需要标注规范。若训练者和使用者采用不同定义,模型即使复现标注也会被认为错误。
Mask R-CNN 在检测框内预测掩膜
Mask R-CNN 在两阶段检测框架上增加并行掩膜分支。区域提议网络给出候选,分类和边界框分支识别对象,掩膜分支为每个感兴趣区域预测较小的二值栅格。类别判断与掩膜预测并行,使形状学习不必通过类别分数间接表达。
掩膜是在候选区域坐标中生成,再映射回原图。候选框若漏掉对象的一部分,掩膜分支很难补回框外区域;错误候选也会传播成错误实例。因此评价时应区分检测失败和轮廓失败,不能只检查最终掩膜。
每类掩膜独立预测也避免像素级类别竞争直接干扰形状学习。推理时通常选择检测分支确定的类别所对应的掩膜。这是特定架构的设计选择,不意味着所有实例分割都必须先做边界框检测。
区域对齐影响细小边界
检测器需要从共享特征图中取出不同大小的候选区域并变成固定尺寸。早期区域池化会把连续坐标取整到特征网格,位置量化对分类影响可能有限,却会让像素边界发生偏移。Mask R-CNN 提出的 RoIAlign 通过保留浮点坐标并插值采样,减少这种错位。
对齐改进并不消除所有分辨率限制。深层特征图已经经过下采样,细线、孔洞和小物体可能在进入掩膜头之前消失。上采样只能恢复栅格大小,不能创造被编码过程丢失的真实细节。
多尺度特征有助于兼顾大对象和小对象,但也引入层级分配和融合选择。检查结果时应按对象尺寸、边界复杂度和遮挡程度分组,而不是只报告总体掩膜指标。
重叠与遮挡需要明确可见性语义
当对象互相遮挡时,标注可以只描绘可见部分,也可以推断被遮挡的完整形状。前者更接近图像证据,后者需要额外先验。二者不能混在同一数据集中而没有标识,否则模型面对相似图像会收到矛盾目标。
多个实例掩膜可能在同一像素重叠。输出系统必须规定按分数、深度关系还是业务规则解决冲突。简单按最高分覆盖会改变较低分对象的形状,并可能导致面积统计偏差。保留原始独立掩膜通常比过早合并更利于审计。
透明物体、反射、烟雾和稀疏结构会模糊“属于对象”的视觉边界。这些情况不是提高阈值就能解决,应在标注指南中给出可重复判断规则,并允许不确定或忽略区域。
评价要同时看对象匹配和像素重叠
常见评价先用掩膜 IoU 匹配预测与真实实例,再计算不同阈值下的精确率和召回率。严格 IoU 更关注边界和形状,宽松阈值更接近“是否找到对象”。平均结果应配合尺寸、类别和遮挡切片。
边界质量可以用专门的边界指标或容差带检查。掩膜 IoU 对大对象内部的小缺口不敏感,却可能对细长对象的一点偏移很敏感。用于计数时还要统计合并错误和拆分错误:一个真实对象被分成多个实例,与多个对象被合成一个实例,对业务影响完全不同。
人工复核不能只挑高分样例。应抽取低对比、密集、截断和罕见场景,记录错误来自候选框、类别、掩膜还是冲突处理。这样的错误归因比单纯提高训练轮次更能指导改进。
从像素输出走向业务对象仍需治理
生产系统需要保存模型版本、输入变换、阈值、掩膜编码和坐标映射。若图像先被缩放或切片,拼接时的重叠和坐标取整会产生接缝;这些工程误差应与模型误差分开验证。
实例掩膜可能包含敏感人脸、车牌或私人空间轮廓,访问和留存策略应按原始影像同等管理。对自动计数或质检,需设定复核区间和拒绝条件,特别是在图像质量或场景分布超出训练范围时。
实例分割把像素组织成对象假设,而不是直接给出世界中对象的完整真相。明确实例定义、可见性、对齐误差、匹配指标和坐标链,才能让掩膜可靠进入后续分析。
资料依据
- Original authors:Mask R-CNN,https://arxiv.org/abs/1703.06870
- Original authors:Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks,https://arxiv.org/abs/1506.01497