arXiv cs.CL·· 2 天前AI 评分38
PGuard:面向多模态大语言模型的原生流式插件式护栏
PGuard: A Native, Streaming, and Plug-in Guardrail for Multimodal Large Language Models
AI 导读
PGuard 是一种原生、流式、插件式护栏,直接利用骨干模型的中间表示进行 token 级安全检测,不改变原推理路径与生成行为。在 SGLang 服务的 Qwen3.5-122B-A10B 上端到端开销仅 0.82-2.26%,在 Qwen3.5-9B 文本查询上平均 F1 达 0.836,接近专用外部护栏。
来源:arXiv cs.CL · arxiv.org