基于模型的强化学习的自主液滴导航
摘要
本文提出了一种基于模型的强化学习方法,用于微流体平台中的自主液滴导航,实现了在复杂几何结构中的可靠导航,并能从简单路径进行零样本迁移。
arXiv:2609.16369v1 公告类型:新
摘要:液体液滴的精确操控是芯片实验室平台的基础,用于诊断、化学合成和生物检测。然而,自主液滴在复杂几何结构中的传输仍是一个未解决的挑战。液滴表现出接触角滞后、可变形性和毛细钉扎,使其对驱动的响应呈非线性和历史依赖,经典控制器和预编程轨迹在多轮环境中无法应对。在此,我们展示了一种基于模型的强化学习方法,在重力驱动(Labyrinth)平台上实现液滴通过日益复杂几何结构的自主导航。一层薄硅油膜减少了接触线钉扎,而双轴倾斜提供重力驱动力,顶置摄像头实时追踪液滴。一个离线训练的策略从有限的物理交互数据中发现有效的倾斜策略,无需模拟或解析液滴模型。系统在部分可观测下运行,因为油膜厚度、瞬时接触角和液滴变形状态对控制器隐藏。尽管面临这些挑战,学习到的策略在直线、直角和弧形路径上实现了可靠导航,包括外角几何结构。我们进一步证明,在更简单几何结构上训练的策略可以迁移到复杂几何结构,在直角和阶梯路径上零样本成功,并在弧形路径上以五分之一的训练数据达到完全成功。这些发现为使基于液滴的微流体系统成为智能化学实验室提供了有前景的途径。
查看缓存全文
缓存时间: 2026/09/16 08:49
# 基于模型的强化学习实现自主液滴导航 来源:https://arxiv.org/abs/2609.16369 查看PDF (https://arxiv.org/pdf/2609.16369) > 摘要:液体液滴的精确操控是芯片实验室平台实现诊断、化学合成和生物检测功能的基础。然而,通过复杂程度各异的受限几何结构实现自主液滴传输仍是一个开放性挑战。液滴表现出接触角滞后、可变形性和毛细钉扎效应,使其对驱动作用的响应呈现非线性和历史依赖性,导致经典控制器和预编程轨迹在多回合环境中难以应对。本文展示了一种基于模型的强化学习方法,在重力驱动的“迷宫”平台上实现液滴在逐渐复杂几何结构中的自主导航。通过薄层硅油膜减少接触线钉扎,双轴倾斜提供重力驱动力,顶部摄像头实时追踪液滴位置。离线训练的策略仅通过有限的物理交互数据(无需仿真或解析液滴模型)即可发现有效的倾斜策略。该系统在部分可观测条件下运行——油膜厚度、瞬时接触角和液滴形变状态对控制器均为隐藏变量。尽管面临这些挑战,所学策略仍能在直线、直角和曲线弧路径(包括外角几何结构)上实现可靠导航。进一步实验证明,在简单几何结构上训练的策略可迁移至复杂结构,在直角和阶梯路径上实现零样本迁移成功,在曲线弧路径上仅用五分之一训练数据即达到完全成功。研究结果表明,液滴微流控系统作为智能化学实验室的发展前景广阔。 ## 提交历史 作者:Rajneesh Anand \[查看邮箱 (https://arxiv.org/show-email/ec35ee4e/2609.16369)\] **\[v1\]** 2026年9月14日 周一 21:31:28 UTC \(7,158 KB\)
相似文章
流体控制的离线强化学习:基于数据的多观测策略提取
本文提出了一种用于主动流动控制的新型离线强化学习框架,采用带有点注意力层的传感器位置条件架构来处理变化的传感器配置,从而无需昂贵的在线交互即可实现数据驱动的策略提取。
利用深度学习在无几何参数条件下预测微流控装置中的惯性升力
本文提出了一种新颖的深度学习方法来预测微流控装置中的惯性升力,无需显式几何参数,与以前的模型相比,该方法能够更好地泛化到未见过的通道横截面。
部分可观测环境中的生成模型预测规划导航
本文介绍了BeliefDiffusion,一种结合扩散模型表示多模态信念分布和使用模型预测控制在部分可观测环境中进行规划的框架,相比基线方法取得了更好的导航成功率和路径效率。
在化学反应网络中实现强化学习:以趋光性作为好奇心驱动的探索
本文提出了一个框架,将部分可观测马尔可夫决策过程与生化反应动力学联系起来,用于建模单细胞藻类的趋光性,并利用逆向强化学习从实验轨迹中推断行为目标。
ReflectDrive-2:面向离散扩散驾驶模型的强化学习对齐自编辑方法
ReflectDrive-2 是一款新型自动驾驶离散扩散规划器,通过强化学习实现轨迹 token 的自编辑,在 NAVSIM 基准测试中取得了高性能和低延迟。