跳到正文
原文
arXiv cs.CY·· 2 天前AI 评分15

如何应对解释忠实性评估标准之间的分歧

Navigating Disagreement Among Criteria for Evaluating Explanation Faithfulness

AI 导读

针对现有忠实性操作化对同一解释是否忠实可能给出相互冲突结论的问题,研究提出一个忠实性函数框架,将分歧定位于解释对模型的主张、相关比较及比较结果的聚合方式,并据此重构现有评估标准。案例研究以不利行动通知为场景,重构了一项行业提议程序所隐含的评估,识别其中哪些选择由具体情境证成、哪些仍待确定。该框架为审计者和从业者提供了在相互冲突的忠实性评估之间进行取舍的路径。

来源:arXiv cs.CY · arxiv.org