ContextBias：文本生成图像模型在语境变化下的偏见持续性控制评估
该研究提出 ContextBias 和 ContextBench，用于评估当职业被置于不同语境中时，文本生成图像模型中的刻板印象视觉关联是否会持续。该基准涵盖 92 种职业和 1,656 个经过语义控制的提示词。研究人员评估了四个先进模型生成的 66,240 张图像，发现与职业无关的语境并未抑制职业相关属性，反而提高了这些属性在不同职业之间的集中程度。人口统计线索、特征性服装和职业专用工具在各种条件下仍普遍存在，并且对提示词改写具有较强稳定性。场景构图和相机取景对语境最为敏感。研究表明，不改变语境的评估可能无法发现持续存在的刻板印象。代码和数据集已公开。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。