谁能获得一个 Token，它承载什么？大型语言模型中的姓名支持与概念访问不平等
一项研究表明，对于大型语言模型而言，配对比较的姓名不一定是等价输入。研究分析了近50万个名字和12种与LLM相关的分词器，发现部分姓名可直接由单个token表示，而另一些则会被拆分成多个子词。这种支持程度取决于模型，并且在与种族、族裔和性别相关的姓名群体之间分布不均。研究人员提出NameTrace，用于测量这些词汇差异是否会继续反映在与任务相关的内部表征中。在匹配的姓名之间，词汇支持程度能够预测奖学金评选、招聘、临床评估和贷款等场景中的概念访问差异。这些影响出现在全部八个匹配分层、多个模型系列以及未见过的姓名中。对隐藏状态进行干预还会改变后续的受限选择。研究结果表明，模型行为要具备可比性，首先需要保证输入在词汇层面的可比性。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。