标签
OpenCode 新上线神秘隐身模型 Pulse Alpha，提供 1M 上下文、131K 最大输出、多模态输入与三档推理模式，限时免费；外界猜测其底层可能为 GLM 5.5 或 Qwen 系列。
论文提出Latent Sparse Attention（LSA），通过在潜空间中对Key做层级聚类，使Query只需对聚类中心打分，从而在10M超长上下文下将Qwen3.8-27B单层注意力Prefill加速72.4倍、Decode加速42.5倍，端到端首token延迟降至约1/9，且精度基本不掉。方法包含可蒸馏的D-LSA与原生训练的N-LSA两种变体，代码与蒸馏权重已开源。
团队发布了 Latent Sparse Attention（LSA，潜在稀疏注意力）这一开放研究成果，实现了亚二次复杂度的注意力机制，在超长上下文中达到与全注意力相当的准确率，使稀疏注意力最高提速 22.7 倍，全注意力最高提速 72.4 倍。
Moonshot AI 宣布推出 Kimi K3.1 Pro，这是其能力最强的 3T 级开放权重 MoE 模型，支持 100 万 token 的上下文窗口，Modal 将于本周在该模型发布首日提供支持。
Unsloth 公布了其 DeepSeek Dynamic V3.1 GGUF 量化版本的基准测试结果，声称在 512K 上下文长度下，其在 Terminal Bench 和 DeepSWE 等智能体基准测试中的表现比 GSQ-RCO 提升了逾 10–20%，并从统计学角度质疑了 GSQ-RCO 关于量化后性能恢复的说法。
LongCat-2.5 是一款原生多模态模型，专为智能体任务而设计，将视觉语言能力与工具使用和长周期任务执行能力相结合。
作者用 RTX 5090、4090 和双卡 V100 实测 DeepSeek-V4.1-Flash-1017、Qwen-3.8-Flash-Next、Qwen-3.8-27b 三款本地开源模型，通过 Core-300 盲测与 200K+ 长文本压测对比其与 GPT-5.5、Opus-4.8 等云端模型的实际体感差距。
一位来自罗马的非开发者分享了Briglia，这是一个开源的AI智能体替代方案，用于替代Hermes，它采用精心整理的时间顺序对话历史而非基于检索的记忆机制，在为期一个月的基准测试中实现了48个事实中记住43个，而Hermes+Hindsight为39个，Codex仅为6个。
Zyphra Research 的一篇论文介绍了 Zyphra 分层注意力（ZHA），这是一种亚二次复杂度的稀疏注意力方法，在 KV 缓存上使用分层树状索引器，可通过短程 KL 蒸馏适配预训练模型，并在上下文长度超过 100 万时展现出显著更优的扩展性。
论文提出 GraphNIAH，一个基于真实引文关系自动构建的长上下文多跳推理基准，用于评估 GPT-5.6、Gemini-3、Qwen3.5 等八个大模型，发现随着推理路径加深，模型准确率显著下降甚至接近随机猜测。
一篇研究论文，将长上下文扩散的成本表述为双重预算——注意力图的边数和激活的专家数——提出了 DualBudget 稀疏专家配置，给出了图规模与计算量的界限，并通过评估展示了在最高 16K 上下文长度下的性能提升，以及相较于 DiffuSeq 降低 20% 的成本。
一位开发者分享了开源的 vLLM 补丁和 Triton 内核，通过将完整的 int4 KV 缓存保存在系统内存中，并利用秩为 64 的键草图在每个注意力计算步骤中仅提取约 1% 的 token，实现了在两张 RTX 3090 上并发运行 8 个上下文长度为 25 万 token 的编程智能体。据其报告，总吞吐量约为 545–790 token/秒，在 25 万 token 的上下文长度下，召回成绩为 31/32。
作者测试了 Liquid AI 的 LFM3-1.7B 模型（Q8_0 GGUF 格式，通过 llama.cpp/ROCm 运行），用于压缩和摘要任务。测试结果显示在 Strix Halo 以及 7900 XTX+XT 张量拆分配置上具有出色的预填充/解码吞吐量，并且作为一个 1.7B 模型，在 32k-64k 上下文长度下表现出乎意料的连贯性。
一位实践者基于两周的大量智能体日志，对比了采用 INT8 与 INT4 AWQ 量化运行的 Qwen3 27B，发现 INT4 会显著提高推理循环发生率（从每千次调用 1.9 次增至 4.7 次），使任务成功率从 92% 降至 78%，而且在超过 10 万 token 的长上下文中，差距会进一步扩大。INT8 甚至 BF16 也会出现循环，因此量化只是加剧了这一问题，而非其根源。
一场社区讨论，征集用户使用 Nanbeige4.3-33B 的实际体验。这是一款拥有 330 亿参数的开放模型，支持 512K 上下文窗口，在推理、编程和智能体任务的基准测试中表现出色，但其 KV 缓存内存占用较高也引发了担忧。
SenseNova 发布了 SenseNova-Loop-9B-Preview，这是一款基于共享循环块和 mHC 残差流架构构建的循环多模态模型，面向长上下文和智能体工作流，支持动态设计、PPT 生成和数据分析等多种能力。
DAMI 提出一种双轴记忆初始化方法，通过将 A_log 按几何级数分布于各头、dt_bias 沿深度呈低-高-低剖面，在 GDN、KDA、GDN2、Mamba-2、RWKV-7 五种线性注意力架构上将 RULER 检索准确率相对随机初始化提升 5.29–16.71，同时不引入额外参数或改变推理开销。
Mistral 发布 Mistral Large 4（Le Chonk）：一个 1 万亿参数、49B 激活参数的原生多模态 Mixture-of-Experts 模型，具备 1M 上下文窗口、可配置推理力度、160+ 语言支持，并以 Mistral Ecosystem Open-Weight License 开源权重发布。
Hugging Face 的博客介绍 Mistral Large 4（代号 Le Chonk），这是 Mistral 推出的多模态、多语言、混合专家（MoE）模型，具备约 1T 总参数（49B 激活参数）和 1M token 上下文窗口，在网络安全、编码代理和多模态任务上表现出色。
Google 在 Argon 发布仅两周后便推出 Gemini 4 Carbon，在 Artificial Analysis 指数上以 59 分跃居第一，超过 Opus 5.5 和 GPT-6 Astra。其长上下文能力实现重大飞跃，在 GraphWalks 百万 token 测试中达到 96.2%，但在编码基准上仍有落后。