标签
一项对两个小型置信度评分分类模型——TypeSafe AI 托管的 Jev 和开源的 Laya——的自测评估表明,与模型规模相比,基于输入特征描述标签、保持一致的时间窗口以及校准(ECE)对下游阈值决策性能的影响更大。
本文描述了为B2B销售构建AI定价代理的过程,其中用户忽视了置信度分数,要求来源透明,从而提升了信任度和错误检测。
text2ql是一个开源的Python框架,通过语言无关的中间表示实现多目标自然语言查询,支持SQL和GraphQL,并提供基于LLM和确定性模式,在基准测试中实现高准确率。
一位开发者反思了自己的 AI 自动化项目:准确率达到 95% 仍需人工全面审查,于是重新设计为将不确定的输出送入审查队列,整体上节省了时间。
Cactus Hybrid是一款经过后训练的Gemma 4模型,可输出置信度分数,支持在设备端进行推理,并在置信度较低时路由至更大模型,以最少的大模型调用实现了与Gemini 3.1 Flash-Lite相当的性能。
本文研究了LLM弃权的两个维度:答案正确性与问题可回答性。研究表明,单一的置信度阈值会混淆这两种失败模式,并提出了一种带有独立预算的三类选择性接受框架。在五个经过指令微调的模型上进行的实验表明,可回答性在内部是可读的,但输出置信度或自我评估难以捕捉。
本文提出了一种5步蓝图,通过使用轻量级检索评估器来提高 RAG 中的信任度。该评估器对文档质量进行评分,并触发(正确、错误、模糊)三种动作来处理检索失败,具有即插即用的集成特性。
Mistral AI 发布了 Mistral OCR 4,该模型能够读取历史手写手稿,并提供边界框、块分类以及内联置信度分数,支持170种语言。