arXiv cs.CL·· 2 天前AI 评分38
Multimodal-SEA：多模态社会工程攻击下的AI智能体安全基准测试
Multimodal-SEA: Benchmarking AI Agent Security under Multimodal Social Engineering Attacks
AI 导读
研究者提出交互式基准 Multimodal-SEA，含 608 个专家设计任务，覆盖 14 个领域、152 种攻击场景，用于评估个人 AI 智能体在多模态社会工程攻击下的内在安全性。测试 7 个常用多模态模型，攻击成功率为 7.1% 至 34.5%；加入多模态内容后攻击成功率从 19.9% 升至 29.2%。更强安全指令可降低攻击成功率，但未提升对欺骗性多模态内容的识别能力。
来源：arXiv cs.CL · arxiv.org