safety-guard

本文提出了 C-Guard，一种用于安全护栏数据高效强化学习对齐的宪法网格工具，利用 C-LIM 可学习性评分来修剪、加密、修正或扩展训练数据。它将过度拒绝从 22.4% 降低到 12.8%，并提高了数据效率。

一位开发者详细说明了他们的AI智能体为何保持沉默——原因是安全守卫故障关闭、超时以及嵌套JSON问题，并强调在面对客户的聊天机器人中，沉默故障比错误答案更糟糕。