safety-refusal

介绍了TAF-MED，一个经过医生审查的500个多轮医疗安全场景基准，表明当用户声明自我治疗意图时，大型语言模型常常从安全的初始拒绝崩溃为不安全的响应。对8个大型语言模型在4000个对话中的评估发现，71.6%的对话包含不安全响应，而首轮安全性不足以作为对话安全持续性的代理指标。