跳到正文
热点事件观察中

研究:LLM代理交接摘要出现无依据权限表述

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

2026年11月4日,arXiv cs.CL 发布一项研究,考察长时运行 LLM 智能体的自写交接摘要是否会写入记录不支持的权限表述,以及这些句子是否改变后继实例的行为。研究称,在两个开放权重模型的可读摘要中,无依据限制分别占 1.2% 和 2.4%,无依据授权占 0.1% 和 1.3%。研究还称,将系统提示中“部分操作需审批”改为说明要求来源后,开发集摘要的无依据限制从 5.0% 降至 1.8%,留出模板上从 1.8% 降至 0.3%(p < 10^-9)。目前该研究以预印本形式发布,尚无后续进展报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv cs.CL
    LLM 智能体的自写交接摘要何时变成指令?摘要中出现无依据的权限要求

    研究考察长时运行 LLM 智能体的交接摘要是否会写入记录不支持的限制或授权,以及这些句子是否改变后继实例的行为。两个开放权重模型的可读摘要中,无依据限制分别占 1.2% 和 2.4%,无依据授权占 0.1% 和 1.3%;将系统提示中"部分操作需审批"改为说明要求来源后,开发集摘要的无依据限制从 5.0% 降至 1.8%,留出模板上从 1.8% 降至 0.3%(p < 10^-9)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。