达摩院-开放视觉智能实验室 | OpenVI Tech Talk No.2:SRAI:基于概率分布的鲁棒性特征建模技术分享
在实际应用场景中,计算机视觉系统会遇到多种多样类似低质量数据,噪声数据甚至不同数据分布(out of distribution)如误检测数据带来的不确定性干扰,给部署系统的鲁棒性带来隐患。本次分享介绍两个新的基于概率分布的鲁棒性特征建模的工作。对于识别任务,基于概率的视角进行分析,揭示损失函数中温度调节参数和分类不确定度的内在关系,提出Random Temperature Scaling (RTS) 的框架对表征的可靠性进行建模。以此框架来训练更可靠的识别模型,使训练过程更加稳定,并在部署时提供一个对样本不确定度的度量分值,以拒识高不确定的样本,帮助建立更鲁棒的识别系统。对于分割任务,用概率分布的形式对半监督分割中的特征表达和表征相似度度量值进行建模,已获得更鲁棒的表征表达方式,并结合实验说明给模型带来的收益。