标签
本文提出了一种LLM Agent架构HybridAgents,它通过轻量级的HybridLink在潜空间推理与文本驱动的行动之间动态切换,并结合HybridSFT与HybridRL后训练,在11个基准测试上实现了10.4%的性能提升,同时显著降低了token消耗、延迟和成本。
斯坦福大学、Together AI、伊利诺伊大学厄巴纳-香槟分校与 Meta 联合提出混合推理智能体,让模型主要通过隐藏的内部推理进行思考(更快、更省),仅在调用工具或给出最终答案时使用显式文本,在数学、科学、医疗等测试上提升约 10%,同时词元数量减半、速度翻倍且成本更低。
When2Think 是一个后训练框架,能根据问题难度在大型推理模型中动态分配计算资源,从而在数学基准测试中优化准确性与效率的权衡。
蚂蚁集团发布Ling-3.0-flash,一种混合推理MoE模型,总参数量124B,每个token仅激活5.1B参数,在大多数基准测试中与其1T旗舰模型性能相当。
基准测试显示,AntLing-3.0-flash是一款为生产级智能体应用设计的混合推理混合专家模型。
AntLingAGI发布Ling-3.0-flash,这是一款124B参数的MoE模型,其中5.1B参数为活跃参数,现已在Nous Portal上免费提供一周。它在许多基准测试中匹配甚至超越其1T旗舰模型,专为编码和工具使用等智能体工作负载而设计。
OpenBMB 发布了 MiniCPM5-1B,这是一个密集型1B参数Transformer模型,在开源1B级模型中达到SOTA,专为设备端部署设计,支持混合推理和长上下文。