efficiency

Skyfall AI 发布了 SKY-001，这是一款工程世界模型，能够用数千个 3D 零部件重建一辆捷豹汽车，并声称其 CAD 精度与 GPT-6 Astra 相当，同时运行速度是后者的 51 倍，成本仅为后者的 1/150。

本文提出结构保持的专家剪枝框架，通过 PEEP 与 DCEP 两种方法利用专家输出的结构冗余性对稀疏 MoE 大模型进行剪枝，在 DeepSeek-V2-Lite 和 Qwen3-30B-A3B 上超越现有基线。

Flide 是一款高效且精确的 LLM 决策模型推理引擎，通过 ForkAttention 将逻辑树结构与单一的扁平化词元流解耦，查询响应速度最高可达 vLLM 和 SGLang 的 9.5 倍，同时结果最接近 float32 参考值。

Zyphra Research 的一篇论文介绍了 Zyphra 分层注意力（ZHA），这是一种亚二次复杂度的稀疏注意力方法，在 KV 缓存上使用分层树状索引器，可通过短程 KL 蒸馏适配预训练模型，并在上下文长度超过 100 万时展现出显著更优的扩展性。

一篇研究论文，将长上下文扩散的成本表述为双重预算——注意力图的边数和激活的专家数——提出了 DualBudget 稀疏专家配置，给出了图规模与计算量的界限，并通过评估展示了在最高 16K 上下文长度下的性能提升，以及相较于 DiffuSeq 降低 20% 的成本。

该论文在训练预算相同的条件下，比较了连续扩散语言模型（LangFlow）和推测式草稿模型（DSpark）作为独立生成器的表现，发现当序列较长时，LangFlow 在困惑度和 MAUVE 指标上表现更优，而当序列长度为 16 时，DSpark-RNN 领先，凸显了对整个序列进行迭代优化这一关键优势。

SkillMem 为潜在空间中的多智能体推理引入了一种紧凑的外部潜在记忆，用于存储可复用技能。在使用 4B 至 14B 参数规模的 Qwen3 模型进行的各项基准测试中，其存储空间需求降至原来的 1/38，推理速度最高提升至原来的 4.23 倍。

Sam Altman 认为，在资源紧缺的环境下，本地推理是一种低效的资源配置：让每个人在电脑里配备大量稀缺 DRAM 却只使用约 5% 的时间，远不如让云端资源保持高利用率。

DecisionRank 使用条目空间的同策略蒸馏，将生成式教师模型的排序知识迁移到高效决策模型，在 TREC DL、BEIR、BRIGHT 等检索基准上达到最先进性能，同时显著提升推理速度（最高可达 24.5 倍），仅用 17 亿参数即可超越 270 亿参数的生成式教师模型。

在 EMNLP 2026 上，T-Tech 研究人员介绍了 LIMe，这是一种轻量级注意力扩展，通过复用较早层的键值缓冲区来缓解表征坍缩。在约 10 亿参数的模型上，与基线 LLaMA 相比，它在保持同等质量的同时，将大语言模型的训练计算量减少了约 15%。

IDM：Intrinsic Distribution Matching 提出让生成器自身同时提供分数监督和分布匹配表示的方法，在保留完整 DMD 校正的基础上，对生成器 EMA 特征的均值和逐坐标标准差添加显式损失。在 2 NFE 预算下，基于 Z-Image 的 IDM 在 LongText-CN 和 LongText-EN 上取得最佳分数。

Cartesia 的 From Tokens to Bytes 系列第一篇探讨了 Hierarchical Networks（H-Net）的扩展规律，展示了学习式 tokenization 带来的 3-5 倍计算效率提升，2 阶段 H-Net 以 10 倍更少的算力和数据超越了相匹配的开源模型，并呈现了 in-context tokenization 等新行为，以及在生物、视觉等跨模态任务上的潜力。

Albert Gu 宣布了 hierarchical networks (H-Nets) 的新版本，在 scaling law 受控实验中实现了 3-5 倍的效率提升，用大约 10 倍更少的数据和计算量匹敌一个在 11T tokens 上训练的开源模型，这是迈向从原始字节端到端学习的重要一步。

datalab-to 发布了 Tesseract OCR 引擎的继任者 indra，其突出之处在于仅有 100 万个参数，却在基准测试中展现出质量和速度的显著提升。

据 SkalskiP 的测试，GPT-6.1 Terra 在文本、目标检测和计数等视觉基准上超越 Astra，同时速度快约 47%、成本低约 92%，结果令人难以置信。

发布了 Spark-X2.6-1.7B 小模型，参数量不到 4B 版本的一半，但在 SWE Verified（59.8 vs 62.8）和 τ²-bench（85.3 vs 86.9）两项基准上性能接近。

MORE 是一个自进化训练框架，通过两阶段范式与 MATE-PPO 联合学习推理模式选择和计算预算分配，使智能体在编码、数学和通用推理基准上以更短的响应长度和更低的推理时间取得一致的性能提升。

SLICE-Mem 提出一种轻量级大语言模型智能体长期记忆框架，通过显著性引导的记忆准入与基于谓词的语义抽取，实现无需调用大语言模型的在线记忆构建，在保持接近 MemOS 基线精度的同时，将词元消耗降低 92.4%–99.5%。

ConsMSA 为多模态情感分析引入了模态内与模态间的语义分布一致性学习，实现了词元重加权与剪枝，并在仅保留 10% 词元的情况下，在 CMU-MOSI、CMU-MOSEI 和 CH-SIMS 上取得了最先进的结果。

荷兰政府宣布计划通过AI驱动的效率改革裁减约25,000个公务员岗位（约占16%），目标是到2035年每年节省35亿欧元，并将于明年初公布AI部署方案。