VisionHOPE：作为自修改学习系统的视觉骨干网络
VisionHOPE是一种视觉骨干网络，模型在处理图像时会让存储的信息与学习规则共同演化。该方法建立在Nested Learning之上，使用五个相互耦合的记忆模块来存储内容、生成键和值表示，并控制学习率和保留机制。为避免无约束的自指更新导致不稳定，研究人员提出步长控制方案，限制自指注入，并对保留记忆的转移施加谱约束。对于二维特征图，方法沿图像行和列进行四个方向的扫描。VisionHOPE在ImageNet-1K、COCO和ADE20K上取得了具有竞争力的结果，代码也已公开。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。