标签
本文提出了随机通道重演 (RPR) 以约束在线持续学习中的重演间隙，展示了在像ER-ACE这样的经验回放方法中，其准确性优于独立类别平衡检索。
本文提出了一种参数高效的适应框架，利用LoRA和对比学习增强视觉Transformer，用于合成孔径声呐图像中的自动目标识别。
作者重新回顾了表征学习中有影响力的开源工作，列出了从MoCo v1到LeJEPA的关键论文，这些工作推动了视觉基础模型和自监督学习的发展。
提出了一种解耦训练策略，该策略适应归一化层并使用预计算特征来减少迁移学习中的开销，在显著缩短训练时间和降低能耗的同时，达到了有竞争力的准确率。
本文探讨了在像素空间扩散变换器（DiTs）中使用寄存器令牌的情况，发现尽管DiTs没有补丁令牌异常值，但寄存器令牌仍能提高特征图质量。作者提出了寄存器引导（Register Guidance）技术，用于放大寄存器贡献，以改善视觉结构。
UniverSat 引入了一种用于Vision Transformers的Universal Patch Encoder，该编码器可以在不同地球观测数据类型上实现鲁棒的、传感器无关的空间特征提取，在分类和分割基准测试上取得了优秀结果。
ViT-Up提出了一种用于视觉Transformer的任务无关特征上采样器，在任意连续图像坐标上预测特征，从而能够生成任意分辨率的密集特征图，并提升了密集预测和语义对应基准的性能。它优于先前的最先进上采样器，在Cityscapes上提升了+2.07 mIoU，在SPair-71k上提升了+4.17 [email protected]。
Phase Marginalization是一种事后方法，通过评估结构化补丁网格相位并聚合输出来解决Vision Transformers中依赖于相位的不稳定性。与标准基线相比，它以最小的额外成本改善了分割、深度和局部匹配性能。
本文介绍了一篇关于视觉 Transformer 弹性注意力核的新论文，提出了一种核心-外围块稀疏注意力结构，与 DINOv3 等密集自注意力方法相比，该结构提高了可扩展性和准确率。