基于模型的强化学习的自主液滴导航

arXiv cs.LG 论文

摘要

本文提出了一种基于模型的强化学习方法,用于微流体平台中的自主液滴导航,实现了在复杂几何结构中的可靠导航,并能从简单路径进行零样本迁移。

arXiv:2609.16369v1 公告类型:新 摘要:液体液滴的精确操控是芯片实验室平台的基础,用于诊断、化学合成和生物检测。然而,自主液滴在复杂几何结构中的传输仍是一个未解决的挑战。液滴表现出接触角滞后、可变形性和毛细钉扎,使其对驱动的响应呈非线性和历史依赖,经典控制器和预编程轨迹在多轮环境中无法应对。在此,我们展示了一种基于模型的强化学习方法,在重力驱动(Labyrinth)平台上实现液滴通过日益复杂几何结构的自主导航。一层薄硅油膜减少了接触线钉扎,而双轴倾斜提供重力驱动力,顶置摄像头实时追踪液滴。一个离线训练的策略从有限的物理交互数据中发现有效的倾斜策略,无需模拟或解析液滴模型。系统在部分可观测下运行,因为油膜厚度、瞬时接触角和液滴变形状态对控制器隐藏。尽管面临这些挑战,学习到的策略在直线、直角和弧形路径上实现了可靠导航,包括外角几何结构。我们进一步证明,在更简单几何结构上训练的策略可以迁移到复杂几何结构,在直角和阶梯路径上零样本成功,并在弧形路径上以五分之一的训练数据达到完全成功。这些发现为使基于液滴的微流体系统成为智能化学实验室提供了有前景的途径。
查看原文
查看缓存全文

缓存时间: 2026/09/16 08:49

# 基于模型的强化学习实现自主液滴导航
来源:https://arxiv.org/abs/2609.16369
查看PDF (https://arxiv.org/pdf/2609.16369)

> 摘要:液体液滴的精确操控是芯片实验室平台实现诊断、化学合成和生物检测功能的基础。然而,通过复杂程度各异的受限几何结构实现自主液滴传输仍是一个开放性挑战。液滴表现出接触角滞后、可变形性和毛细钉扎效应,使其对驱动作用的响应呈现非线性和历史依赖性,导致经典控制器和预编程轨迹在多回合环境中难以应对。本文展示了一种基于模型的强化学习方法,在重力驱动的“迷宫”平台上实现液滴在逐渐复杂几何结构中的自主导航。通过薄层硅油膜减少接触线钉扎,双轴倾斜提供重力驱动力,顶部摄像头实时追踪液滴位置。离线训练的策略仅通过有限的物理交互数据(无需仿真或解析液滴模型)即可发现有效的倾斜策略。该系统在部分可观测条件下运行——油膜厚度、瞬时接触角和液滴形变状态对控制器均为隐藏变量。尽管面临这些挑战,所学策略仍能在直线、直角和曲线弧路径(包括外角几何结构)上实现可靠导航。进一步实验证明,在简单几何结构上训练的策略可迁移至复杂结构,在直角和阶梯路径上实现零样本迁移成功,在曲线弧路径上仅用五分之一训练数据即达到完全成功。研究结果表明,液滴微流控系统作为智能化学实验室的发展前景广阔。

## 提交历史
作者:Rajneesh Anand \[查看邮箱 (https://arxiv.org/show-email/ec35ee4e/2609.16369)\] **\[v1\]** 2026年9月14日 周一 21:31:28 UTC \(7,158 KB\)

相似文章

部分可观测环境中的生成模型预测规划导航

arXiv cs.AI

本文介绍了BeliefDiffusion,一种结合扩散模型表示多模态信念分布和使用模型预测控制在部分可观测环境中进行规划的框架,相比基线方法取得了更好的导航成功率和路径效率。