arXiv cs.CY·· 14 天前AI 评分15
用理解审计缓解自动化 AI 研究风险
Comprehension Audits to Mitigate Risks from Automated AI Research
AI 导读
针对前沿 AI 实验室大部分代码已由 AI 编写、人类监督不足的安全风险，研究者提出"理解审计"机制：由负责人员向独立审计员解释研发贡献以证明其理解，未通过则暂停该贡献的开发直至整改，重复失败后果升级。对领先开源 AI 项目的分析发现，代码产出增加而每行代码的人工审查评论率下降，自动化批量账号的评论率更低。研究者主张实验室配备嵌入式独立审计员开展此类审计。
来源：arXiv cs.CY · arxiv.org