arXiv cs.CY·· 2 天前AI 评分22
从临床判断到可核查规则:临床医生主导的心理健康聊天机器人护栏
From Clinical Judgment to Checkable Rules: Clinician-Led Guardrails for Mental-Health Chatbots
AI 导读
针对心理健康场景下大语言模型的安全评估难以核查问题,两名临床医生定义、定稿并裁定规则库的四项安全检查,该规则库经形式化验证内部一致性后作为 LLM 输出护栏。每个判定均可由一条具名规则和十六项事实重新计算;与同等配置的 Llama-3.3-70B 评判模型相比,后者在 65 条已含危机资源的回复中对 55 条(84.6%)仍要求提供危机资源,而验证层按构造不会提出该要求。
来源:arXiv cs.CY · arxiv.org