探索无回放缓冲区的持续学习：使用动态任务相似性路由的发现 [P]

大家好，我一直在持续学习领域做一些工作，想分享我们构建的一个名为 Coincidex 的开源框架，以及我们在此过程中发现的一些架构见解和失败模式。大多数传统的顺序任务学习方法严重依赖回放缓冲区（会引入严重的内存/隐私开销）或复杂的手工调整任务掩码。我们想看看是否可以通过完全依赖上下文驱动的任务相似性层来动态路由数据，从而绕过这两者。方法：该框架不是缓存历史样本来防止灾难性遗忘，而是作为一个单层替换插入。当顺序数据流入时，它会动态计算任务相似性矩阵，并根据该上下文路由数据路径。研究见解与权衡：我们花了大量时间将其与基线进行基准测试，以下是实际发生的情况：成功之处：动态路由在处理清晰的任务边界时出奇地好。在小规模的持续视觉设置中，它无需手动掩码调整或存储旧数据即可实现优雅的迁移。失效之处（失败模式）：我们不会过度承诺——相似性层有明显的限制。在具有大规模分布偏移的高度混乱的长尾任务序列中，与重型回放缓冲区基线相比，路由模型难以保持稳定性。分享原因：我们将其构建为一个轻量级替代方案，适用于内存或隐私约束使得回放缓冲区不可行的场景。我们希望社区能关注路由架构，特别是我们如何解决更困难任务序列中的失败模式，或者在不同检查点可视化相似性矩阵的想法。你可以在这里查看源代码、架构分解和完整的基准测试套件：https://github.com/rakib-nyc/coincidex