arXiv cs.CL·· 2 天前AI 评分18
LLM 智能体的自写交接摘要何时变成指令？摘要中出现无依据的权限要求
When Do Summaries Become Instructions? Unsupported Policy in LLM Agents' Self-Written Handoff Summaries
AI 导读
研究考察长时运行 LLM 智能体的交接摘要是否会写入记录不支持的限制或授权，以及这些句子是否改变后继实例的行为。两个开放权重模型的可读摘要中，无依据限制分别占 1.2% 和 2.4%，无依据授权占 0.1% 和 1.3%；将系统提示中"部分操作需审批"改为说明要求来源后，开发集摘要的无依据限制从 5.0% 降至 1.8%，留出模板上从 1.8% 降至 0.3%（p < 10^-9）。
来源：arXiv cs.CL · arxiv.org