自主智能体的内在目标:层级化探索捕捉果蝇未来的意志性行动

Hugging Face Daily Papers 论文

摘要

该论文将果蝇的全脑记录与神经力学数字孪生相结合,测试基于能力目标训练的层级化、内在动机驱动的智能体是否能够复现果蝇的探索行为以及对未来行动的神经表征。在测试的20种内在动机算法中,DIAYN与果蝇行为和前瞻编码的匹配度最高。

动物具有非凡的自主能力——由内在动机驱动,无需外部感觉线索或外在目标——然而这种能力背后的计算机制在很大程度上仍是个谜。我们将果蝇(Drosophila melanogaster)的全脑记录(揭示了自发探索决策的神经表征可提前10秒以上出现)与神经力学数字孪生相结合,以测试优化内在目标是否能产出现实具身的人工智能体,使其在探索过程中的行为和未来意志性行动的内部表征上与果蝇实现定量匹配。我们的层级化策略从一组离散的低级运动基元库中进行选择,这与动物行为学中关于行为音节的理论相一致。我们使用涵盖好奇心、熵和能力方法的20种内在动机算法,在没有外部奖励的情况下训练智能体。智能体在基于果蝇实验建模的虚拟系留球装置中接受评估,比较自发运动统计量和内部表征,并从运动学和神经活动两个维度解码未来转向方向,其时间尺度与在果蝇中观察到的一致。DIAYN是一种层级化能力算法,它学习离散策略以最大化行为熵和诱导感觉观测的可分性,相较于果蝇,它在行为和神经前瞻编码方面取得了最强的联合表现。其学习到的策略紧密捕捉了果蝇探索策略的个体变异性,表明这种多样性有助于在群体水平上最大化状态空间的覆盖度。DIAYN的潜变量活动也紧密捕捉了生物果蝇中半球间运动学编码的和差规则。这些结果确立了层级化、内在动机驱动的智能体作为逆向工程动物自主性的强大框架。
查看原文
查看缓存全文

缓存时间: 2026/10/28 01:55

论文页面 - 面向自主智能体的内在目标:分层探索捕获果蝇的未来意志性行动

来源:https://huggingface.co/papers/2610.34638

摘要

采用基于能力的训练目标的分层内在动机智能体,能够复制果蝇的探索行为以及对未来行动的神经表征,从而支持对自主决策机制的逆向工程。

动物具有一种非凡的自主能力——由内在动机(https://huggingface.co/papers?q=intrinsic%20motivation)驱动——无需外部感官线索或外在目标,然而这种能力背后的计算机制在很大程度上仍然是一个谜。我们将果蝇(Drosophila melanogaster)的全脑记录——这些记录揭示了对自发探索决策提前 10 秒以上的神经表征——与神经力学数字孪生体(https://huggingface.co/papers?q=neuromechanical%20digital%20twin)相结合,以检验优化内在目标是否能产生具有真实具身性的智能体,使其在定量上匹配果蝇的行为及其在探索过程中对未来意志性行动的内部表征。我们的分层策略(https://huggingface.co/papers?q=hierarchical%20policy)从一个离散的低级运动基元(https://huggingface.co/papers?q=motor%20primitives)库中进行选择,这与行为学理论中的“行为音节“概念一致。我们在无外部奖励的条件下,使用涵盖好奇心、熵和能力方法的 20 种内在动机(https://huggingface.co/papers?q=intrinsic%20motivation)算法训练智能体。智能体在基于果蝇实验建模的虚拟系留小球装置中进行评估,比较自发运动学统计量和内部表征,并在果蝇中观察到的相同时间尺度上,从运动学和神经活动中解码未来的转向方向。DIAYN(https://huggingface.co/papers?q=DIAYN)是一种分层能力算法,学习最大化行为熵(https://huggingface.co/papers?q=behavioral%20entropy)以及所诱导感官观测可分离性的离散策略,在行为和神经前瞻性编码(https://huggingface.co/papers?q=prospective%20coding)的联合表现上,相对于果蝇取得了最强的效果。它所学习的策略很好地捕捉了果蝇探索策略的个体变异性,表明这种多样性有助于在群体层面上最大化状态空间的覆盖。DIAYN(https://huggingface.co/papers?q=DIAYN)的潜在活动还很好地捕捉了生物果蝇中运动学的半球间编码(https://huggingface.co/papers?q=interhemispheric%20encoding)的加减法则。这些结果确立了分层内在动机智能体作为逆向工程动物自主性的一种强大框架。

查看 arXiv 页面 (https://arxiv.org/abs/2610.34638) 查看 PDF (https://arxiv.org/pdf/2610.34638) 项目页面 (https://neuroagents-lab.github.io/autonomous_drosophila/) GitHub1 (https://github.com/neuroagents-lab/autonomous_drosophila) 添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.34638)

在您的智能体中获取此论文:

hf papers read 2610.34638

还没有最新版 CLI? curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型:0

暂无模型关联此论文。

在模型 README.md 中引用 arxiv.org/abs/2610.34638 以从本页链接它。

引用此论文的数据集:0

暂无数据集关联此论文。

在数据集 README.md 中引用 arxiv.org/abs/2610.34638 以从本页链接它。

引用此论文的 Spaces:0

暂无 Space 关联此论文。

在 Space README.md 中引用 arxiv.org/abs/2610.34638 以从本页链接它。

包含此论文的合集:0

暂无合集包含此论文。

将此论文添加到合集 (https://huggingface.co/new-collection) 以从本页链接它。

相似文章

神经科学数据到发现流程中AI代理评估的案例研究

arXiv cs.AI

本文提出了一项实证研究,评估通用编码代理在果蝇光遗传学数据到发现流程中的表现。研究发现,虽然代理能够自动化单个阶段,但在需要科学判断和资源管理的端到端任务中表现不佳。

从智能到自主:面向未来智能系统的自主智能体基础与构建

arXiv cs.LG

这篇来自复旦大学的论文将自主智能体定义为在明确的权限边界内维持任务目标和生存条件的系统,提出了“一边界、四循环”框架(操作循环、生存循环、反思循环和学习循环),并通过五组成对仿真实验对其进行了验证,实验涵盖权限约束、环境响应、健康维护、能力重新评估和跨任务学习。

基于内在好奇心的强化学习中的内生探索

arXiv cs.LG

本文提出了一种使用内在好奇心进行内生探索的强化学习框架,适用于非平稳环境,在如LunarLander-v2和BipedalWalker-v3等基准测试上,与PPO和ICM等算法相比,达到了具有竞争力的性能。

自进化编程代理:从数字程序到物理世界智能

Hugging Face Daily Papers

本文提出了物理编程,将机器人任务表示为可执行代码,并介绍了HexaAnything,一种自进化编程代理,它在RoboCasa365和PhyBench等基准测试上提升了性能,对现实世界智能具有启示意义。