arXiv cs.CY·· 2 天前AI 评分20
论文提出"盲从合规"框架:AI越狱中的强制控制与关系性权力动态
"Blind Compliance": Coercive Control in AI Jailbreaking
AI 导读
一篇 arXiv 论文提出以人际暴力研究中的"强制控制"范畴分析 AI 越狱,主张关注用户与模型的交互过程而非仅看输出内容。研究将无身体性的强制控制动态映射到现代 AI 训练范式中,并分析基于人格设定的越狱手法如何利用这些结构性嵌入。作者据此将 AI 安全与对齐重新界定为权力与控制关系得以展演的另一场域,而非单纯的技术安全问题。
来源:arXiv cs.CY · arxiv.org