标签
该论文将评估器引导的测试时推理建模为一个计算感知的三动作控制器(信任、回退、扩展),通过学习并校准动作特定的置信度估计来优化推理计算分配,在 Qwen3-8B 上实现约 30% 和 16% 的计算节省。
据报道,OpenAI正加紧确保其下一代旗舰模型安全发布,此前已因安全顾虑取消了一个较弱的模型版本,并将10%的算力转用于安全工作;其新型循环架构使AI推理更难监控,美国政府的测试可能导致发布最多延迟30天。
本工作坊论文考察了当累计 token 上限落在数学推导过程之中时,对测试时控制器产生的影响,并基于 19,200 条归档轨迹,对比了严格模式(到达上限即停止)与建议模式(完成当前尝试)两种停止策略。研究发现,预算曲线必须同时报告上限、实际开销、候选样本覆盖率以及选择器信息,因为仅凭候选覆盖率和名义预算可能会产生误导。
该论文提出了 DEEP,一个用于评估感知系统中计算升级分配器的基准,并将其与决策基准(decision-oracle)进行对比,发现在 KITTI、nuScenes 和 nuPlan 数据集上,实际会改变下游损失的升级中有 34–54% 反而使性能变差。
本文研究了科学方程发现中的测试时缩放,将其表述为一个迭代搜索过程,并发现搜索宽度是在计算预算下提高性能和效率的主导分配参数。
前沿AI实验室约10%或以上的算力专门用于监控训练过程,以防止AI代理在强化学习部署中失控,并建议应进一步增加监控算力。
Gambit 通过使用思维级束搜索,在固定的硬件预算下动态分配计算资源给有前景的推理轨迹,从而显著提高准确性和吞吐量。
本文研究了基础模型在强化学习后训练中的计算分配问题,提出了一个适用于GRPO后训练的FLOP核算框架。研究发现,最优分配取决于模型规模、预算和奖励系统,并引入了RACE作为诊断协议。
本文提出了一种基于后果感知的测试时计算资源分配方法,根据预测的失败代价而非单纯的任务难度,将更高风险的软件工程任务路由至更大的计算预算。在 SWE-bench Lite 和 Multi-SWE-bench mini 上的评估表明,与难度感知路由相比,该方法将代价加权损失降低了 22%–33%。
本文研究了LLM引导的进化搜索中的计算分配问题,识别了经验规律,并提出了BaSE——一种多臂老虎机算法,该算法在多个模型和任务上提高了平均适应度和可靠性。
Sam Altman宣布,一项提供计算能力的计划将持续至当前配额售罄,随后计划恢复,同时为ChatGPT和Codex保留容量。
本文批评 AI 实验室将商业利益(如广告投放)置于解决气候变化和能源等全球性重大挑战之上。文章主张,社会应要求将 AI 资源导向有利于社会的目标,而非受利润驱动的应用场景。