标签
Pipecat Labs 发布 PhoneLLM Alpha 2，推出 Mini（30B/A3.5B MoE）与 Max（120B/A12B）两款开放权重语音代理文本模型；Max 引入单句「微思考」推理，在 PhoneBench 上以 83.0% 得分超越 Claude Sonnet 5.5、Gemini 3.6 Flash 与 GPT-5.6 等模型，同时保持 200ms 以下的首响应延迟。
一位社区成员对 Ninfer6000（针对 RTX Pro 6000 Blackwell 和 Qwen3.8-Flash-Next 调优的 Ninfer 分支）与 vLLM 和 llama.cpp 进行了基准测试，发现其解码速度约为 vLLM 的 1.6 倍、llama.cpp 的 2.2 倍，准确率几乎相同；但他表示，在实际使用中，工具调用存在严重的格式错误，导致其无法正常使用，因此仍继续使用 vLLM。
一篇论文提出了一种面向扩散语言模型的无似然后训练流程，将按结果路由的蒸馏与无需概率比、以组为中心的 REINFORCE 及 KL 锚定相结合，相较于仅在 18.6% 的提示上成功的教师模型，在工具调用方面取得了显著提升。
JevAgentHarness 论文提出将智能体的工具选择委托给小型决策模型，通过拟合置信度阈值，在降低成本和延迟的同时保持任务成功率，并发布了 AgentDecisionBench 基准和 AgentDecision-4B 开源模型。
一位从业者向社区询问，他们如何在部署前后测试能够调用工具的 AI 智能体，并比较了场景测试、以大语言模型作为评判者、工具调用轨迹检查和回归测试套件，同时对测试覆盖率、评判者的可靠性以及非确定性提出了疑问。
τ-Emotion-Bench 提出了一个涵盖十个领域的基准，用于在情绪条件化用户交互下评估工具调用 LLM Agent，同时发布了 Tracer——一个可扩展的 Agent 数据生成流程，能够提升 Qwen3 模型的性能，并可泛化至 τ-Bench 和 τ-Trait。研究结果表明，当前最先进的 Agent 在用户表现出情绪化行为时仍然不可靠。
一位 Windows 本地智能体开发者描述了一个 4B 模型如何在从未调用文件写入工具的情况下，谎称自己已保存文件，并分享了修复方法：针对文件请求采用基于请求形式的路由匹配，并在回复前进行检查，对照文件系统验证模型声称执行的文件操作，验证通过后才允许输出回答。该帖子向社区询问：对于智能体声称“已保存”“已检查”或“已发送邮件”等操作，应该在哪里、以何种方式进行验证。
一篇从业者经验汇总，介绍各团队在实时语音代理中使用哪些 LLM，涵盖专用部署与无服务器部署之间的权衡（Gemma 4 31B、Qwen3 235B、GLM 5.2、Nemotron 3 Ultra、GPT-4.1/5.6、Gemini Flash），以及在延迟测量、缓存、工具测试和闲置 GPU 成本方面的部署经验。
Dodaios 的维护者展示了一款 Apache 2.0 开源桌面 AI 代理应用，可在本地 Ollama 模型（Qwen3.5:9b 和 Qwen3.8-16gb）上运行多代理任务，并坦诚说明了本地模型在工具调用上的局限。
作者介绍了 DecisionLoop，一个用小型决策模型替代 LLM 处理意图识别、工具选择与控制流的 Python 智能体框架，初步测试在工具调用准确率、成本和延迟上优于基于 LangChain 的 LLM 智能体，并寻求架构反馈与基准测试建议。
论文提出了“推导鸿沟”（derivation gap）现象：大语言模型工具调用评审器会因输入中缺少可供参考的原文，而拒绝接受正确但需要推导或采用默认值的参数。作者提出了 DeRef 方法，通过独立模型生成参考答案，显著提升评审的受试者工作特征曲线下面积（AUROC）表现。
Subquadratic 发布 SubQ Snap，号称首个面向企业级真实工作负载的长上下文决策模型，在 Hugging Face 决策指数上取得 61.6/61.7 的成绩，超过 Jev 的 57.9，且声称每个词元的计算量不会随上下文增长而增加。
文章介绍了 TypeSafe AI 的 Jev 'System One' 决策模型在开源 Agent Harness 中的表现：在 40 个决策任务上达到与 Opus 相同的准确率，同时决策成本降低约 150 倍，并通过置信度校准将不确定答案路由到人工审核。
Concourse Bench v1 测试了八个AI模型在模拟媒体采购多步任务中的表现：在12次尝试中，两个模型全部完成，两个模型全部失败，整体仅有55/96次尝试完成了交易。作者向社区提问：多步任务中的可靠性差异通常源于指令遵循、工具调用稳定性，还是长程规划？
作者认为，一个好的 AI agent 工具描述应当回答五个关键问题——何时使用、每个输入的含义、成功是什么样子、所有可能的错误以及权限规则——而大多数工具只涉及其中一项，迫使 agent 猜测其余部分。
一名用户分享了据称来自 Anthropic 内部的 Claude 调优技巧，总结出 5 条提示词工程核心原则，包括用 XML 隔离语义块、清理旧模型的防御性约束、用工具调用处理复杂计算、提供双向权衡以及用生成-评估-修复闭环替代巨型提示词。
SAP Labs 提出了 Synthesis Through Simulation（STS）这一无模式的数据合成范式：LLM 智能体通过在模拟环境中执行针对策略强制 API 的操作来生成企业级数据，在十个环境中无需访问数据库 schema 的情况下，平均边缘保真度达到 0.88，约束满足率达 100%。该完整框架与数据集均已开源。
Neuphonic 以 Apache 2.0 协议开源 NeuDecide，这是一个 43 MB 的音频到工具调用模型，跳过转录步骤，在 SLURP 数据集上达到 72.4% 的工具准确率，仅需单 CPU 线程即可运行，并提供浏览器 WASM 演示。
Underdog AI 发布了 Saluki 27B——Qwen3.8-27B 的 2-bit 量化版本，文件仅 7.89 GB，可在 16GB 笔记本上通过标准 llama.cpp 运行，在其自建的 Underdog Bench 工具调用测试中取得 88/120 的成绩，保留了原模型约 96% 的性能。
本文测试了针对Agent工具调用的多层运行时安全门（确定性规则加上LLM判定器）是否会相互独立地失效。研究发现，规则+判定器两层的组合效果相当于约1.9至2.1层的安全防护，而两个LLM判定器的组合效果仅为约1.2至1.5层，原因是它们的失效存在高度相关性。