跳到正文
原文
arXiv cs.CY·· 2 天前AI 评分25

语言模型中的不可见化作为概率偏差来源:OpenAI 与 Anthropic 模型对种族描述信息的信任偏差研究

Invisibilization as a Source of Probability Bias in Language Models

AI 导读

研究通过双瓮博弈测量大语言模型拒绝信息的代价,发现 OpenAI 和 Anthropic 的领先模型常因参与者种族描述而非证据本身拒绝评估信息,对黑人描述报告者的拒绝率最高达 46%,对白人描述者仅 9%。该偏差对比较平均信任或仅看已评估案例的审计不可见,且随推理投入增加而扩大,并受措辞而非类别影响。一种基于多轮揭示真相的评分选项可使五分之四配置中的信任种族差距在末轮降至 0.02 以下。

来源:arXiv cs.CY · arxiv.org