long-sequence

NeurDuo-EEG 是一个因果 EEG 基础模型，具备通道级持久状态与显式多时间尺度记忆，通过对离散频谱编码的自回归预测，在 3,955 小时的 EEG 数据上完成预训练。该模型在五个基准测试中的四个上取得最佳结果（包括癫痫检测 AUC-PR 从 0.285 大幅提升至 0.471），其 4.7M 参数的变体支持高效的流式推理。

用户测试了Step 5 Preview模型，发现它在前端编码的长序列任务中表现良好，与Fable和GPT5-Sol等模型相比具有优势。

AsySplat提出了一种非对称架构，将3D高斯泼溅中的几何和外观建模解耦，实现了长序列场景建模的高效率，相比基于优化的方法加速近800倍。

OpenAI推出了稀疏Transformer，一种深度神经网络，将注意力机制的复杂度从O(N²)优化到O(N√N)，使得能够对长度超过以前30倍的序列进行建模，适用于文本、图像和音频领域。该模型采用稀疏注意力模式和基于检查点的内存优化技术，可以训练深达128层的网络，在多个领域实现了最先进的性能。