标签
Meta 的一篇新论文发现，相比使用单一的全局阈值，仅对有关用户价值观和信念的陈述采用更严格的置信度阈值，能让智能体记忆系统表现更好。针对价值观设置的门槛将已保存事实中缺乏依据的比例从 6.2% 降至 4.0%，同时对源文本关键事实的保留率提高了约 13 个百分点。
研究提出按语义类别条件化的记忆保留置信阈值，取代单一的全局阈值，用于控制智能体长期记忆的写入边界；在Meta部署的冷启动记忆管线中，不受支持内容的保留率从6.2%降至4.0%。
Jevstiller 是一款工具，能将大型AI模型蒸馏为本地模型，并设定可配置的不一致界限，以此加速推理，同时保证在指定比例的请求上与原模型保持一致。
本文介绍了JEV-as-a-Judge，这是一种用于大型语言模型（LLMs）的经济高效评估方法，它使用一个仅基于决策的评判器，设置置信度阈值来接受确定的判定并上报不确定的判定，以显著更低的成本实现了与最先进模型相当的准确性。
一位SpaceX AI内部人士分享了五项校准技巧，以提升Grok Bot代理的性能，包括置信度阈值、任务分解、负面示例、操作门控和边缘案例测试。