基于信息瓶颈的训练自适应卷积稀疏编码,用于鲁棒视觉表征
该研究提出了一种用于鲁棒视觉表征的训练自适应卷积稀疏编码框架。方法将 FISTA 优化过程展开为可训练网络,并让稀疏系数与网络参数联合学习,而不是手动设定。从信息瓶颈角度看,该系数控制冗余信息压缩与任务相关信息保留之间的权衡。研究还提出了一种无标签的训练后策略,在固定主网络参数的情况下,针对受损输入调整压缩强度。CIFAR 和 ImageNet 实验表明,该方法在干净数据上的识别性能具有竞争力,并能显著提升对不同输入扰动的鲁棒性。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。