标签
本文研究了在推理过程中状态适应(state adaptation)对于 masked diffusion language models(MDMs)何时真正重要,将推理过程组织为五个维度,并表明选择性适应(利用轻量级检测器识别高机会状态)能够捕获大部分 oracle 收益——例如,在 LLaDA-8B 的受限 JSON 填充任务上,仅适应 10% 的状态便捕获了 56.9% 的机会收益。
本文提出一种无限参数LLM架构,该架构使用超网络通过贝叶斯更新从实时数据生成权重,实现持续适应并超越上下文学习。
Netflix宣布三款新的Sega游戏改编作品:一部《Crazy Taxi》电影,一部面向有态度儿童的《Sonic》动画剧集,以及一部基于即将推出的《Stranger Than Heaven》的真人电影。
本文提出无视觉适应(VFA),一种通过融合多语言和视觉对齐的任务向量来增强多模态大语言模型多语言能力的框架,无需视觉数据,并展示了性能提升和数据效率。
本文提出OTTA-DGAD,一种用于动态图异常检测的在线测试时自适应方法,它使用动态原型和记忆缓冲区来处理未见过的目标域,无需重新训练。
本文介绍了Regime-Conditional Verification (RCV),这是一个轻量级包装器,通过估计预测正确性并检测分布偏移,无需重新训练即可调整用于大型语言模型的现成安全分类器。
本文介绍了BPE引导插入,用于对字节级BPE模型进行事后分词器适配,在保持词汇表大小固定的同时保留大多数token-ID分配。该方法将乌克兰语的token数量减少约33-36%,同时将对英语和其他欧洲语言的影响降至最低。
Ramp Labs 开源了 PorTAL,这是一个用于共享任务表示和跨模型 LoRA 适配的框架,支持混合注意力模型以及包括 Gemma 4、Mistral 7B 和 Inkling 在内的多模态系统。
从六个月国际空间站任务返回的宇航员报告称,在着陆数周后仍存在持续的'observer sensation'——感觉与自己的生活脱节,仿佛从外部观看——这是神经系统适应微重力后产生的感知后遗症。
本文提出将调整速度作为非平稳强化学习的安全约束,从适应可行性角度定义安全性,并利用表示学习与上下文预测,在预测的适应需求超过系统可达容量时主动调节行为。
SiGMA 提出了在训练阶段的符号引导自适应微调以及在推理阶段的符号引导合并,以减轻多模态持续指令微调中的负面干扰,在 UCIT 和 DCL 基准测试上取得了最先进的结果。
文章推测,AI革命可能使工作岗位每3到5年就被替代一次,这或许会迫使人们更明智地储蓄和投资,并引用历史上在困难环境下适应的例子。
用户报告称,本地LLM在适配法律文档时以高自信度虚构引用,并寻求关于如何通过接地、模型或流水线思路来缓解此问题的建议。
损失平滑在自适应过程中在源目标和目标目标之间进行插值,在保留有用特征的同时实现专门化。在监督偏移、强化学习和语言模型微调中的实验显示一致的改进。
Apple TV 预告威廉·吉布森《神经漫游者》的新篇章,很可能是与派拉蒙电视工作室和 DreamCrew Entertainment 合作的电视剧改编。
领域算术(DART)提出了一种在环境变化下对视觉-语言-动作模型进行单样本适应的方法,利用权重向量算术和子空间对齐,仅需单个示范。
文章认为,学习使用AI工具是不够的;真正的优势在于构建系统、获取关注、沟通想法以及创造人们想要的产品。执行力和技能组合将比仅仅掌握AI更为重要。
本文提出H-Res,一种通过塑形关联记忆的能量景观来适应大型Transformer模型的方法,无需修改权重或添加提示,保留了记忆容量,且性能优于LoRA。