神经网络的经典结构是怎么设计出来的? 哈哈哈的回答-知乎 https://www.zhihu.com/question/392634888/answer/1391574322
很多神经网络的结构,确实是炼丹,没有什么道理可言。
有一些神经网络的设计,有着较为清晰的、明确的解释。
例如,残差收缩网络针对数据中噪声较多的情况,在其结构中采用了软阈值化(降噪常用步骤)。

在这里,软阈值化层的使用,有着相对明确的物理意义,就是为了应对噪声较强的情况。
M Zhao, S Zhong, X Fu, B Tang, M Pecht, Deep residual shrinkage networks for fault diagnosis, IEEE Transactions on Industrial Informatics, 16 (7), 4681-4690, 2020.
深度残差收缩网络:借助注意力机制实现特征的软阈值化
https://zhuanlan.zhihu.com/p/121801797
深度残差收缩网络:从删除冗余特征的灵活度进行探讨
https://zhuanlan.zhihu.com/p/118493090
来源:oschina
链接:https://my.oschina.net/u/4609034/blog/4479555