标签
Neural-DISCO 提出一种解纠缠表示学习框架,用于神经群体活动的源条件反事实编辑:可替换单个行为或刺激标签的潜在分量,同时保留其他标签与源特异性变异性,并结合特征归因识别单神经元层面的功能角色。
一项预注册研究比较了支持向量机(SVM)与卷积循环模型在五分类呼吸音分类任务中的表现,发现特征标准化(宏平均召回率从0.51提升至0.78)的影响远大于模型架构的选择,且在资源有限的离线临床环境中,数据增强未带来可测量的益处。
一位 Stanford CS312(Deep Learning Alchemy)的讲师发布了考试风格的预测题,考察深度学习直觉:在用 AdamW 训练的 Transformer 中,批量大小增加 8 倍后,能否通过调整学习率或权重衰减来补偿?
该论文提出 Graph-Dependent Pooling (GDPool),一种动态决定每个图池化粒度的层级图神经网络池化方法,通过自注意力选择锚点并在金属有机框架和分子图基准上取得最佳性能。
该论文提出了多变量时间序列超分辨率预测(MTS-SRF)任务及 TimeMagnifier 模型,能够从粗粒度历史数据中预测细粒度未来,在十个数据集上以 12.3% 的平均 MSE 降低击败 15 个基线。
论文提出 Isharah-Selfie 数据集,这是一个完全通过前置智能手机自拍视角采集的大型阿拉伯手语(ArSL)数据集,包含 16 名签名者的 8,997 段视频和 1,493 个句子,用于连续手语识别与翻译,并揭示现有方法在自拍条件及未见句子泛化上的不足。
提出 CA-DPSGD 框架,利用近似二阶信息构建曲率感知的梯度裁剪空间,以缓解 DPSGD 中的裁剪偏差问题,并在图像和句子分类基准上验证其优于现有裁剪方法。
提出双分支校准模块(DBCM),通过共享适配器与低秩通道适配器的双分支设计,在时序预测的测试时自适应中处理非平稳分布偏移,并在多个数据集、预测跨度和骨干模型上超越现有方法。
提出了 Cautious ConFIG,一个三行扩展的优化算法,修复了 ConFIG 与 Adam 等自适应优化器结合时破坏无冲突梯度方向的问题,并在多个 PINN 基准上取得一致性能提升。
全面综述 NDE 4.0 领域,从计算算法、物理技术、工业应用和研究目标等方面分析无损检测,重点阐述自动缺陷识别向深度学习和生成模型的转变,并指出开放数据集、可解释人工智能和标准化数字孪生协议等方面的关键缺口。
实验表明 PBT 并不能加速 grokking,但在固定超参数全部失效的'死区'内可以成功逃逸并诱导 grokking;复盘显示真正起作用的是学习率/权重衰减的调度路径而非种群间的权重拷贝。
本文提出了首个用于选举承诺挖掘的尼泊尔语政治文本黄金标准数据集,比较了机器学习、深度学习和大语言模型方法,并将结果集成到移动应用中,以可视化方式呈现选举问责情况。
本文针对九个模型,精确测量了通过截断反向传播训练循环 Transformer 时损失的权重梯度量,发现梯度损失主要由靠近输出端的部分决定,在微调过程中逐渐减小,而且这种测量方法并未明显优于 Parcae 规则等无需测量的成本启发式方法。
提出了运动等变卷积 LSTM(MELSTM),将序列数据中的运动视为规范对称性(gauge symmetry),通过速度模型作为规范场实现对任意运动的可证明等变性,在未来帧预测、运动数字分类和动作识别任务上以更少状态超越 ConvLSTM 与流量等变基线。
本文提出 TF-IG,一种参数高效的交互门控时频学习框架,用于基于 PPG 的心率估计,在 BIDMC PPG 数据集上以仅 84.6K 参数实现 1.227 BPM 的 MAE 和 0.9934 的皮尔逊相关系数。
一篇介绍「反应式优化器」的研究文章:一个智能体在训练过程中观察训练动态,并重写优化器的源代码。在图像和语言任务上,它能够匹配甚至超越精心调优的最佳方案,同时自主防止梯度尖峰和过拟合。该方法已通过开源 OPAL 包发布。
本文将一种基于Extreme Value Theory的CVaR优化方法从强化学习推广到高维神经网络策略,得到可通过自动微分计算的可微尾部风险目标函数,并证明在极端场景下,其对冲性能优于使用经验CVaR训练的策略。
MoSAIK 从标准多线圈 TSE k 空间中用 Transformer 直接估计刚体运动参数,并将其用于模型化的运动感知重建,从而在无需外部导航器的情况下快速回顾性校正脑 MRI 运动伪影。
CorteXforge 是一个基于场景的框架,可在可编程 SDR 测试床(SLICES-RI/CorteXlab)上生成真实且可复现的带标注 RF 数据集,并通过自动调制分类进行验证,展示了合成数据与真实数据之间的差距以及合成数据预训练的优势。
CoASFL 提出一种面向异步分割联邦学习的不一致性感知框架,通过动态激活合并与一致性感知模型聚合,同时缓解客户端间水平不一致和客户端-服务器垂直不一致,在80设备边缘测试床上将训练加速1.61×至3.74×并提升最高3.26%的准确率。