储层学习与产出的进化算法

arXiv cs.AI 论文

摘要

介绍了EARLY,一个用于进化多储层回声状态网络的进化框架,它在时序学习任务上优于随机搜索,并展现出任务依赖的结构差异。

arXiv:2605.30372v1 公告类型:交叉 摘要:储层计算是一种循环神经网络,由于它将动态处理与训练后的读出层分离,因此是一种有前景的时序学习方法。然而,经典的ESN通常需要针对特定任务调整其架构和超参数才能获得良好性能。本文介绍了EARLY(用于储层学习与产出的进化算法),这是一个旨在进化多储层ESN拓扑和超参数的框架。受大脑模块化组织的启发,EARLY将架构编码为基于图的基因组,并应用交叉、变异和选择来发现有效的配置。我们的目标是创建通用架构和任务以诱导泛化。该方法在CogScale数据集的时序学习任务上进行了评估。结果表明,进化出的架构在多个任务上优于通过随机搜索获得的架构,并且根据任务难度表现出结构差异:简单任务产生轻量级架构,而更复杂的任务倾向于更丰富的模块化组织。这些发现表明,进化搜索有助于为更广泛的时序问题识别可复用的储层结构。进一步在跨情境学习数据集上评估进化出的架构,以评估它们适应新环境的能力。
查看原文
查看缓存全文

缓存时间: 2026/06/01 09:29

# 面向储备池学习与生成的进化算法
来源:https://arxiv.org/abs/2605.30372
查看 PDF(https://arxiv.org/pdf/2605.30372)

> **摘要:**储备池计算作为递归神经网络的一种类型,是一种很有前景的时序学习方法,因为它将动态处理过程与经过训练的读出层分离开来。然而,经典的\textbf{回声状态网络}(Echo State Networks, ESNs)通常需要针对特定任务调整其架构和超参数才能获得良好的性能。本文提出了\textbf{EARLY}(面向储备池学习与生成的进化算法,Evolutionary Algorithm for Reservoir Learning and Yielding),这是一个旨在同时演化多储备池 ESN 拓扑结构与超参数的框架。受大脑模块化组织的启发,EARLY 将架构编码为基于图的基因组,并应用交叉、变异和选择来发现有效的配置。我们的目标是创建通用型架构以及能够诱导泛化能力的任务。该方法在来自 CogScale 数据集的时序学习任务上进行了评估。结果表明,演化得到的架构在多个任务上表现优于通过随机搜索获得的架构,并且在结构上因任务难度不同而呈现差异:简单任务产生轻量级架构,而复杂任务则倾向于更丰富的模块化组织。这些发现表明,进化搜索有助于为更广泛的时序问题识别可复用的储备池结构。进一步地,我们在一个跨情境学习数据集上评估了演化架构,以测试其适应新环境的能力。

## 提交历史

来自:Julien Testu \[查看邮箱(https://arxiv.org/show-email/a4cf769c/2605.30372)\] \[通过CCSD代理\] **\[v1\]**2026年5月19日 星期二 11:22:21 UTC(4,592 KB)

相似文章

进化策略作为强化学习的可扩展替代方案

OpenAI Blog

OpenAI 提出进化策略(ES)作为一种可扩展的黑箱优化方法,可替代强化学习用于训练神经网络策略。进化策略通过将策略训练视为随机参数搜索来简化优化问题,该搜索基于奖励反馈反复采样并选择更优的参数配置。

进化策略梯度

OpenAI Blog

OpenAI 推出进化策略梯度(EPG),这是一种元学习方法,通过进化而非直接学习策略来学习损失函数,使强化学习代理能够通过利用类似人类技能迁移的先验经验,更好地跨任务泛化。

AEM:用于多轮智能体强化学习的自适应熵调制

Hugging Face Daily Papers

本文介绍了AEM,这是一种用于智能体强化学习的无监督方法,通过在响应级别自适应调整熵动态来改善探索与利用之间的平衡。通过在ALFWorld和SWE-bench等基准测试上展示性能提升,该方法将不确定性估计与动作粒度对齐。