本文为深度残差收缩网络的简要解读,需要读者有深度残差网络(Deep Residual Network,ResNet)与Squeeze-and-Excitation Network(SENet)的相关基础。
深度残差收缩网络,英文名为Deep Residual Shrinkage Network,是ResNet或者说SENet的一种新颖改进,发表在1区期刊IEEE Transactions on Industrial Informatics上,面向的是强噪声情况下的样本分类问题。
首先,ResNet的残差模块如下图所示:
然后,相较于ResNet,SENet的残差模块有一点改进:
最重要的,深度残差收缩网络中的残差模块,将SENet中的“加权”替换成了“软阈值化”:
最后,深度残差收缩网络的整体网络结构如下图所示:
转载网址
https://juejin.im/post/5dff189ce51d4557e87fd9b0
M. Zhao, S. Zhong, X. Fu, et al., Deep Residual Shrinkage Networks for Fault Diagnosis, IEEE Transactions on Industrial Informatics, 2019, DOI: 10.1109/TII.2019.2943898