S-Space:探索多模态语言模型中的空间工作区
这项研究在多模态语言模型中发现了一个名为 S-Space 的线性表示子空间。物体 token 的表示沿水平、垂直和距离轴编码连续位置。研究人员表明,这一内部空间工作区能够保存感知到的位置、支持空间判断,并在视角变化时进行转换。模型虽能形成有用的空间表示,但在完成跨视角可靠推理所需的转换方面仍存在不足。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。