标签
以色列初创公司42AI以6250万美元种子轮融资走出隐身模式，其开发的“行为世界模型”能够预测个体的决策概率，初期部署于金融券商，用于在市场剧烈波动时预判交易员行为。
NVIDIA 发布 Metatron v1，这是一种统一的宇树 G1 人形机器人控制策略，将行走、场景交互与恢复整合到单一的 MaskedMimic 风格 Transformer 学生模型中，并提供原生 PyTorch 检查点与面向浏览器的 ONNX 导出。
提出一种基于 Transformer 的 DeepONet（Perceiver 编码器 + 交叉注意力解码器），实现多分辨率下的辐射传输方程（RTE）非仿射重建代理模型，在池火灾数据集上以更少参数超越自编码器基线，并突破仿射重建的理论误差下界。
一个极简、自包含的 PyTorch 手动实现的 Transformer 分类器自动微调（autograd）代码，旨在帮助建立对 autograd 底层工作原理的直观理解，以及梯度如何在注意力模块中流动。
ConsMSA 为多模态情感分析引入了模态内与模态间的语义分布一致性学习，实现了词元重加权与剪枝，并在仅保留 10% 词元的情况下，在 CMU-MOSI、CMU-MOSEI 和 CH-SIMS 上取得了最先进的结果。
弗吉尼亚联邦大学的一篇论文探讨了用于电力负荷预测的 Transformer 模型的极低状态数权重量化（3、5、7、16 个状态），表明量化感知训练和累积更新阈值机制能够在保持预测性能的同时，将权重更新次数减少约 99.7%。
该论文分析了36年间720万篇计算机科学论文与370万名研究者，发现从AlexNet到Transformer再到大语言模型，每次AI突破虽然提升了领域承载力，却会更集中地攫取注意力、耗尽后续突破所需的多样性，作者呼吁建立保护多元注意力的制度。
MoSAIK 从标准多线圈 TSE k 空间中用 Transformer 直接估计刚体运动参数，并将其用于模型化的运动感知重建，从而在无需外部导航器的情况下快速回顾性校正脑 MRI 运动伪影。
ORBIT 提出了一种统一的深度时间序列生成框架，通过频率层次化 VQ-VAE 和频率带自回归 Transformer 实现从低频到高频的下一频带预测，从而先构建全局时间结构再逐步补充细节，在多个真实基准上达到最先进的性能与更高的推理效率。
一张面向中文读者的大模型学习地铁图：以 Transformer→GPT-2→预训练→ChatGPT→LLaMA→MoE→推理模型为主干，并分出推理、训练、对齐、架构、应用五条支线，强调亲手实现 GPT-2 作为理解所有后续模型的锚点。
提出了一种基于Transformer的孟加拉语语音识别与诊断系统，通过声学与文本特征检测痴呆症迹象，并利用Bi-LSTM注意力模型在对话中为患者自动补全未说完的句子，填补了低资源语言在认知障碍分析领域的空白。
论文提出 CogDrills-4D（CogDrift-4D），一种层级式 4D Transformer 多模态框架，通过 18 个月内七次非脚本化交互的行为数据建模时间性行为衰退，用于轻度认知障碍（MCI）早期检测，分类准确率达 0.733±0.13。
一位开发者将 CHIP-8 游戏机变成了一个仅解码器 Transformer，让模型本身充当游戏引擎，通过下一个 token 预测来执行指令并渲染画面，能够运行《乒乓》和《俄罗斯方块》等 118 款以上的游戏，而其权重是从电路编译而来，并非通过训练获得。
Mistral 发布 Timestral 时间序列基础模型家族（500 万/2800 万/1.23 亿/2.09 亿参数），支持零样本预测、单变量与多变量预测及概率输出，2.09 亿参数版本的代码与权重已在 GitHub 和 Hugging Face 开源。
提出了一个用于印度手语识别的混合框架，结合运动学条件自适应GCN与距离感知弹性Transformer，并利用熵驱动SVD采样器提取关键帧，在自建的120类原生ISL数据集上达到89.8%的准确率。
DuET 是一种双编码器 Transformer，联合执行 MIDI 到乐谱的转录与节拍跟踪，以提升富有表现力的钢琴演奏转录中的时序和时值准确性，在钢琴谱数据集上实现了显著的 MUSTER 误差降低。
Mistral AI 发布 Timestral 时间序列基础模型系列（5M/28M/123M/209M），209M 版本在 GIFT-Eval、TIME 和 fev-bench 上实现零样本预测的最先进精度，并开源代码。
DAGFormer 通过联合训练的拓扑预测器全局规划 Transformer 的跨层连接，相比标准 Transformer 及多种路由基线显著降低困惑度并提升下游任务表现。
VLX-Go 提出一种视觉-语言航点策略，通过多阶段多模态训练（视觉-语言对齐、多模态推理、追踪专项化）和在线策略优化，显著提升机器人在干扰物环境中跟踪目标人物的成功率，达到 58.22%，并在对比方法中取得最佳的干扰物与模糊场景追踪成绩。
论文提出 HART，一种混合注意力与 RWKV 的时间序列基础模型，通过交替注意力和 RWKV 模块解决非自回归多步预测中 RWKV-7 的长程退化问题（占位符空闲衰减）。仅用 36M 参数（约为 Toto-2.0-1B 的 1/28）在 GIFT-Eval 上达到可媲美的长程 MASE（0.752 对比 0.754）。