用于研究人类认知与行为的小型基础模型
研究人员使用 Psych-101 训练了14个模型，参数规模从1.35亿到140亿不等。Psych-101包含来自160项实验的1,070万条试次级选择数据。在与训练数据相同的分布内，模型规模影响很小：6亿至10亿参数的模型在未参与训练的受试者上，达到了700亿参数基准模型的相近表现。但在泛化到新任务结构时，更大的模型明显更具优势。诊断测试显示，屏蔽刺激和反馈内容会破坏75.7%的已学习信息，并使模型表现低于随机水平，说明仅凭选择历史无法解释模型的表现。这些小型认知微调模型有望用于估计心理学实验中的噪声上限，但其适用范围仍受训练数据中已有实验范式的限制。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。