标签
TensorSSM 提出了一种用于函数式张量分解的隐式神经表示，在动态状态空间模型中记忆空间位置，编码从粗到细的空间标记和跨模态依赖关系，以提高在多种张量数据集上的重建精度和存储效率。
DAMI 提出一种双轴记忆初始化方法，通过将 A_log 按几何级数分布于各头、dt_bias 沿深度呈低-高-低剖面，在 GDN、KDA、GDN2、Mamba-2、RWKV-7 五种线性注意力架构上将 RULER 检索准确率相对随机初始化提升 5.29–16.71，同时不引入额外参数或改变推理开销。
该论文表明，仅通过对激活值进行广义普罗克鲁斯特分析，就能将五个参数冻结、独立训练的模型（四个 Transformer 模型和一个状态空间模型）对齐到共享的表征空间，在最终层上实现 0.91–0.93 的留出集检索准确率；同时，论文也报告了一项负面结果：在这些模型之间进行路由选择，表现并不优于始终使用最强的模型。
提出 Boa Compressor，一个基于 Mamba 状态空间模型的即插即用在线上下文压缩器，通过单次线性时间编码任意长度上下文，并以蒸馏方式训练以匹配完整上下文下的下一词元分布，在相同压缩率下匹敌或超越离线压缩基线且延迟降低一个数量级。
SSMCGM-Stream 是一种流式状态空间模型，用于为 1 型糖尿病患者提供个性化实时血糖预测，支持常数时间推理、可解释的隐状态归因和反事实推理，并配备 SSMCGM-Agent 层，提供基于大语言模型的决策支持。在 T1DEXI 队列上的评估表明，其性能与强大的神经网络基线模型相当，同时降低了设备端部署的计算成本。
一篇HuggingFace文章，总结了IIT Madras研究人员的一篇论文，将LLM记忆处理归为五种方法——存储更多、压缩、纠正、推理时学习和分布可塑性——并探讨当新信息与旧状态冲突时，这些方法各自表现如何。
TurboMamba提出了一种结合全局Mamba-3与轻量局部Transformer的分块语言模型架构，通过词法记忆增强实现比Mamba-3更低的预测损失（NLL降低9.4%）以及2.6倍训练吞吐和3.12倍推理加速。
一份详尽的 2026 年后 Transformer 架构全景梳理——涵盖 Mamba-2/3、RWKV-7、BDH（Dragon Hatchling）、xLSTM、Titans 及各类混合模型——在实际算力与能耗预算约束下，对比其核心机制、注意力变体和测试时记忆。
AWS研究人员提出了一种名为"priming"的方法，能够在无需完全重新训练的情况下，将预训练的Transformer转换为混合状态空间架构，将预训练成本降低99%以上，并发布了经过priming处理的8B和32B模型检查点。
该论文提出一种基于非线性时间延迟系统的序列建模框架，通过可微语义延迟估计器、对角状态空间的闭式 O(1) 解以及可解释的模糊语义调制机制，在文本分类和生成任务上超越了现有最先进方法。
该论文提出让谐振序列模型（ResonatorLM）的读出相位依赖当前 token，在保持 FFT 卷积训练路径的同时引入输入依赖性，使在 256 token 训练、1024 token 测试时困惑度从 12.81 降至 3.76，显著改善长度泛化。
论文提出 MaRK（Markov-adapted Recurrent Kernels），一种将上下文向量直接映射为冻结 SSM 递归参数有界调制的动态算子条件化框架，用于将预训练 SSM 适配到迭代扩散生成任务，在 111M Hydra 骨干上仅需 6.3–11M 可训练参数，其中 Chebyshev 变体表现最佳。
本文研究序列模型中的长程记忆资源问题：在给定预测记忆律的条件下，证明了指数型与有限状态型记忆在预测风险下的匹配上下界，得出达到误差τ所需的 Θ(log²(1/τ)) 状态复杂度定律，并分析了分数长记忆与非线性递归的临界性条件，以及其在状态空间模型、门控循环模型和注意力模型中的实验验证。
本文提出了 SSU-LSF，这是首个面向地表预测、基于 Mamba 系列结构化状态空间模型的机器遗忘框架。该方法利用 EKFac 影响函数与投影梯度上升，从 NDVI、LST 以及作物物候预测中移除非平稳混杂偏差，相比完整重训练，成本降低了 8.4 倍。
TIDES 提出一种选择性 SSM 变体，将输入依赖性从步长移到对角状态矩阵上，从而在保持每 token 表达能力的同时原生处理不规则时间戳，并在 UE 分类与 PhysiomeODE 回归基准上取得最佳平均排名。
提出 NC-SSM、SO(3)-SSM 和 Cayley-SSM，将状态空间模型的状态转移提升到非交换紧李群上，以精确跟踪非阿贝尔群并规避对角 SSM 的代数局限，在多项实验中达到 100% 群跟踪准确率。
NeurDuo-EEG 是一个因果 EEG 基础模型，具备通道级持久状态与显式多时间尺度记忆，通过对离散频谱编码的自回归预测，在 3,955 小时的 EEG 数据上完成预训练。该模型在五个基准测试中的四个上取得最佳结果（包括癫痫检测 AUC-PR 从 0.285 大幅提升至 0.471），其 4.7M 参数的变体支持高效的流式推理。
论文提出了 STEPQuant，一个面向线性注意力模型中 Delta 规则递归状态的时空训练后量化框架，在 6-bit 精度下达到接近 FP32 的准确率，实现超过 5 倍的状态压缩，并在集成到 SGLang 后最多可将服务内存降低 68.7%。
FRAC是基于分数阶动力学的新型选择性状态空间模型架构，用幂律长记忆替代传统SSM的指数遗忘，通过log间距指数模式和近似实现高效循环模块，并在1.3B参数语言模型上显著提升长上下文性能。
本文提出了一种预测性维护框架，通过深度学习和不确定性估计来改进半导体制造中剩余使用寿命的估计，以降低维护成本。