arXiv cs.CY·· 4 天前AI 评分20
不可消除的锚点:人类判断作为自主人工智能系统的结构性要求
The Ineliminable Anchor: Human Judgment as a Structural Requirement of Autonomous Artificial Intelligence Systems
AI 导读
针对AI智能体执行长链条任务时的目标漂移问题,研究提出"锚点"概念,即参考信息与人类授权标准进入自主系统的节点。研究认为,目标漂移可能无法仅凭系统内部记录加以验证,缺失的参考必须来自该记录之外;据此结合检查点间距的可靠性模型与训练、执行、多智能体协作证据,构建任务分类法以指导锚点设置与检查自动化决策。对于服务人类目的的AI系统,人类判断在授权和修订自主运行的目标与标准方面是不可消除的结构性要求。
来源:arXiv cs.CY · arxiv.org