arXiv cs.CY·· 13 天前AI 评分18
大语言模型安全相关行为的激活探针检测与引导：基于Llama-3.1-8B-Instruct的研究
Probing and Steering for Safety-Relevant Behaviours in Large Language Models
AI 导读
研究在Llama-3.1-8B-Instruct上统一流程考察激活探针的设计选择，覆盖欺骗、高风险意识与谄媚三种行为。既往研究提示的"读/写分离"（逻辑回归检测最佳、均值差引导最佳）在欺骗与高风险行为上成立，在谄媚行为上则相反，且该反转部分源于数据而非估计器。最佳池化方式与层选择取决于行为和数据，最佳引导层可能远早于最佳检测层。
来源：arXiv cs.CY · arxiv.org