无梯度适应：仿射统计传输及其证书所能揭示的信息
该研究提出 CASTER，一种用于冻结模型测试时适应的无梯度方法。CASTER 将源类别统计量存储在判别子空间中，根据目标批次的矩估计类别共享的仿射变换，并在分类前以解析方式传输源分布。该方法无需反向传播、优化器状态或存储特征库。在 4 种骨干网络和 7 个数据集上，CASTER 使用相同的冻结特征，在 28 个设置中的 27 个超过 k-NN，同时所需状态量的中位数减少 18 倍。不过，仿射传输并不总是可靠。在 ImageNet-C 中，当 1,000 个类别仅对应 64 个样本的批次时，无条件传输使 top-1 准确率下降 21.2 个百分点。研究提出一种基于残差与分类间隔的经验性可传输性证书，用于筛选高风险更新，使平均效果从下降 3.35 个百分点转为提升 1.69 个百分点。该证书具有机制特异性，不能直接迁移到 Tent。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。