跳到正文
原文
arXiv cs.CL·· 3 小时前AI 评分38

arXiv:2610.27908:极性盲区——否定与反义词替换如何绕过LLM安全护栏

arXiv:2610.27908

AI 导读

研究提出"极性盲区"概念,指LLM在语法否定和反义词替换等改变极性的语言变换后无法识别有害意图,从而绕过安全护栏。基于260条提示、10个先进LLM和英语、西班牙语、捷克语3种语言的测试显示,多数模型受此影响,最脆弱模型平均危害评分达4.12(0-5量表)。该效应跨语言存在,反映语义鲁棒性的普遍缺陷而非特定语言或语法问题。

来源:arXiv cs.CL · arxiv.org