CoPlan：一种通过基于角色的可争议论证图实现的可信赖协同智能护理规划界面

# CoPlan：通过基于角色的可争论参数图实现可信共智能护理规划界面

来源：https://arxiv.org/html/2608.05107

11institutetext:Analytics Everywhere Lab，新不伦瑞克大学，加拿大
22institutetext:加拿大国家研究委员会，加拿大
33institutetext:汤普森河大学，加拿大
44institutetext:ISB Corporation，日本
55institutetext:北不列颠哥伦比亚大学，加拿大
∗55email:hung\.ntt@unb\.ca

Hélène Fournierhttps://orcid.org/0000-0002-8470-3226
Piper Jacksonhttps://orcid.org/0000-0002-7025-5063
Makoto Itoh
Shannon Freeman
Rene Richardhttps://orcid.org/0000-0002-1342-6225
Hung Caohttps://orcid.org/0000-0002-0788-4377

###### 摘要

AI 支持的护理规划可以帮助临床医生、患者、照护者和护理团队协调跨临床、功能、心理社会和环境的复杂决策。然而，许多 AI 系统将推荐呈现为固定输出，限制了利益相关者在推荐与临床判断、患者价值观或现实可行性冲突时进行检查、质疑和修订计划的能力。我们提出了CoPlan——一个用于人机 AI 护理规划的共智能和可争论界面。CoPlan 使用多智能体工作流，其中专门的 AI 智能体生成候选干预措施以及支持性或挑战性论点，而人类护理规划者可以在最终计划生成之前接受、拒绝、修改或添加论点。通过这种设计，CoPlan 将共智能（人类和 AI 智能体贡献互补的专业知识）与可争论性（推荐保持开放以供检查、修订和论证）相结合。我们在一个原地养老护理规划场景中展示了 CoPlan。该系统支持自适应护理团队招募、基于角色的论点审查、最终护理计划生成以及通过调度智能体进行的实际后续行动。这项工作贡献了一个可争论的护理规划界面，以及一个可信的人机 AI 护理规划设计框架，该框架保留了人类能动性和临床问责制。

护理规划、以人为本、可争论 AI、多智能体系统、图形用户界面

## 1 引言

护理规划是一个协作且持续的过程，临床医生、患者、照护者和护理团队在此过程中定义目标、协调干预措施，并随着条件变化修订决策[3 (https://arxiv.org/html/2608.05107#bib.bib23)]。护理计划不是一份固定文档，而是一个连接临床证据与患者偏好、社会背景、实际约束和专业责任的共享对象。这对于慢性和复杂疾病尤为重要，因为护理往往跨越多个提供者和环境，规划质量取决于利益相关者能否共同理解、协商和更新计划[26 (https://arxiv.org/html/2608.05107#bib.bib48)]。

人工智能（AI）系统通过总结患者信息、识别风险、比较干预措施和生成推荐，为支持护理规划提供了新的机会。多智能体系统（MAS）为组织算法护理规划提供了一种有前景的方式，因为它们可以将推理分配到不同形式的专业知识中，包括诊断、药物治疗审查、康复、社会支持和患者偏好引出[27 (https://arxiv.org/html/2608.05107#bib.bib24),15 (https://arxiv.org/html/2608.05107#bib.bib6),3 (https://arxiv.org/html/2608.05107#bib.bib23),14 (https://arxiv.org/html/2608.05107#bib.bib25)]。

然而，护理规划不能简化为生成优化推荐，因为一个临床上合理的计划如果忽略了本地工作流程、患者价值观、照护者能力或数据中不存在的上下文信息，仍可能不合适。这为设计可信的 AI 支持护理规划界面提出了关键挑战。可信赖性不能仅依赖于准确性、模型性能或解释，因为当 AI 推荐不完整、不安全、有偏见或与临床判断和患者目标不一致时，用户还需要有意义的方式来回应[10 (https://arxiv.org/html/2608.05107#bib.bib16),9 (https://arxiv.org/html/2608.05107#bib.bib15)]。虽然可解释 AI（XAI）可以帮助用户理解为什么产生推荐，但仅靠解释并不能确保用户能够纠正系统、质疑其假设或重新调整拟议计划。因此，界面设计成为可信护理规划的关键部分，因为它塑造了用户如何遭遇 AI 推荐、如何检查其背后的推理，以及当推荐不适合护理情境时如何采取行动[19 (https://arxiv.org/html/2608.05107#bib.bib29),22 (https://arxiv.org/html/2608.05107#bib.bib38),1 (https://arxiv.org/html/2608.05107#bib.bib27)]。

在本文中，我们提出了CoPlan——一个用于人机 AI 护理规划的共智能和可争论界面。CoPlan 围绕两个原则设计：共智能和可争论性。共智能指的是一种人机 AI 协作模式，其中临床医生、患者、照护者和 AI 智能体为护理规划过程贡献不同形式的知识。CoPlan 不是将 AI 视为自主规划者，而是将 AI 定位为协作参与者，帮助综合临床证据、揭示风险、生成替代方案，并支持利益相关者之间的反思。同时，可争论性指的是利益相关者检查 AI 支持的护理推荐、质疑其证据和假设、提供反证、表达异议，并触发修订或合理确认的能力[16 (https://arxiv.org/html/2608.05107#bib.bib26),8 (https://arxiv.org/html/2608.05107#bib.bib9),1 (https://arxiv.org/html/2608.05107#bib.bib27)]。通过这种框架，CoPlan 将 AI 推荐视为开放的协作提案，而非固定决策。这一点很重要，因为可信的护理规划需要人类和 AI 智能体之间的分布式智能，以及在推荐与临床判断、患者价值观或现实可行性冲突时挑战推荐的具体机制。

总体而言，我们的主要贡献可总结如下：

1. 1\. CoPlan，一个共智能和可争论的界面，使 AI 支持的护理推荐可检查、可质疑、可修订和可审计。我们的实现可在https://github.com/Analytics-Everywhere-Lab/CAIAiPCP/获取。
2. 2\. 一个以可争论性为中心的框架，将可信 AI、以人为本的设计和临床问责制连接在人机 AI 护理规划中。
3. 3\. 对未来 AI 支持的护理规划系统的设计启示，这些系统旨在保留人类能动性，同时受益于 AI 推理和多智能体协调。

## 2 相关工作

### 2.1 以人为本和可信的 AI 护理规划

护理规划是一项协作性医疗活动，要求临床医生、患者、照护者和护理团队将临床证据与患者目标、社会背景、可用资源和实际约束对齐。先前关于医疗 AI 的工作显示了计算系统支持临床推理、风险评估、诊断和治疗规划的潜力[15 (https://arxiv.org/html/2608.05107#bib.bib6),6 (https://arxiv.org/html/2608.05107#bib.bib65)]，同时也强调 AI 应该增强而非取代人类判断[28 (https://arxiv.org/html/2608.05107#bib.bib66),21 (https://arxiv.org/html/2608.05107#bib.bib67)]。这一观点在护理规划中尤为重要，因为决策不仅是技术或临床的，也是关系性的、情境性的和价值敏感的。

以人为本的 AI 研究认为，AI 系统应围绕人类目标、能力、责任和使用情境进行设计[25 (https://arxiv.org/html/2608.05107#bib.bib68),24 (https://arxiv.org/html/2608.05107#bib.bib69),19 (https://arxiv.org/html/2608.05107#bib.bib29)]。在医疗保健中，这意味着 AI 支持的系统必须适应临床工作流程、传达不确定性、支持用户控制并保持问责制。人机 AI 交互指南同样强调系统应使其能力可见、支持纠正，并使用户能够理解和控制 AI 行为[2 (https://arxiv.org/html/2608.05107#bib.bib70),20 (https://arxiv.org/html/2608.05107#bib.bib30)]。这些原则与护理规划直接相关，因为不同的利益相关者贡献不同形式的知识：临床医生带来临床专业知识，患者带来生活经验和偏好，照护者带来关于日常可行性的实践知识。

最近关于多智能体系统（MAS）的工作通过展示多个 AI 智能体如何协调不同形式的专业知识（如诊断、药物治疗审查、康复和患者偏好引出）扩展了这一方向[17 (https://arxiv.org/html/2608.05107#bib.bib10),15 (https://arxiv.org/html/2608.05107#bib.bib6),6 (https://arxiv.org/html/2608.05107#bib.bib65),27 (https://arxiv.org/html/2608.05107#bib.bib24)]。这对护理规划很有用，因为护理工作已经分布在不同的角色和专业中。然而，现有的 AI 和多智能体医疗系统通常关注推荐质量、智能体协调或推理性能，而对人类用户检查、协商和修订 AI 生成计划的界面关注较少。CoPlan 通过将护理规划构建为一个共智能的人机 AI 过程来填补这一空白，其中人类利益相关者和 AI 智能体共同参与规划，而界面保留了人类能动性和问责制。

### 2.2 从可解释性到可争论的人机 AI 界面

可解释 AI（XAI）已成为提高 AI 支持决策信任的主要方法，尤其是在医疗保健等高风险领域。解释可以帮助用户理解哪些因素影响了推荐、为什么系统产生了特定输出，以及输出何时可能需要进一步审查[13 (https://arxiv.org/html/2608.05107#bib.bib74),18 (https://arxiv.org/html/2608.05107#bib.bib73)]。然而，仅靠解释是有限的，因为理解 AI 推荐并不一定给用户提供有意义的方式来挑战或改变它。在护理规划中，这一局限性至关重要，因为一个推荐可能是可解释的，但如果它与患者偏好、照护者能力、成本、可及性或临床判断冲突，仍可能不合适[23 (https://arxiv.org/html/2608.05107#bib.bib4)]。

可信 AI 框架强调透明度、公平性、鲁棒性、问责制和人类监督[10 (https://arxiv.org/html/2608.05107#bib.bib16),9 (https://arxiv.org/html/2608.05107#bib.bib15)]。然而，除非这些原则转化为具体的交互机制，否则它们可能仍然抽象。可争论 AI（CAI）通过论证受自动化决策影响的人应该能够质疑系统输出、提供反证、寻求修订并获得有意义的回应来回应这个问题[16 (https://arxiv.org/html/2608.05107#bib.bib26),11 (https://arxiv.org/html/2608.05107#bib.bib28),7 (https://arxiv.org/html/2608.05107#bib.bib72)]。最近的工作进一步表明，可争论性应该设计到 AI 系统中，而不是仅作为事后申诉过程添加，因为有意义的争论要求用户看到推荐的基础、识别不同意的理由，并理解他们的挑战如何改变结果[22 (https://arxiv.org/html/2608.05107#bib.bib38),19 (https://arxiv.org/html/2608.05107#bib.bib29)]。

图1 (https://arxiv.org/html/2608.05107#S2.F1) 说明了从单向解释（从 AI 到人类）转向人机之间可争论的交互循环的进展，其中人类可以请求论证、注入修正，并引导 AI 朝着更可接受的结果发展。

CoPlan 建立在从可解释性到可争论性的转变之上。CoPlan 不是将 AI 生成的护理计划呈现为最终推荐，而是将它们视为可以检查、挑战、修订、论证或升级的提案。这种界面级框架很重要，因为护理规划往往涉及分歧、不确定性和利益相关者协商。通过将共智能与可争论性相结合，CoPlan 旨在支持 AI 辅助规划，同时确保临床医生、患者和照护者对护理计划保留有意义的权威。通过这种方式，设计目标从自动计划生成转向负责任的计划协商。

参见说明图1：通过可争论性实现护理规划系统中智能体 AI 的人机共智能机制。

## 3 框架和界面

在本节中，我们介绍CoPlan，一个通过基于角色的论点图实现人机 AI 护理规划的共智能和可争论界面。CoPlan 支持原地养老护理规划，其中老年人希望在其需求变化时安全独立地生活。在这种情境下，护理规划需要协调临床证据、功能需求、心理社会背景、环境风险、照护者能力和患者偏好。CoPlan 结合了领域专门的 AI 智能体、证据检索、结构化论证、基于角色的争论和最终护理计划生成。该框架由两个原则指导：共智能和可争论性。共智能将 AI 智能体和人类利益相关者定位为具有不同知识和责任的协作贡献者。可争论性确保推荐保持开放以供检查、异议、修订和论证。因此，人类护理规划者仍然是工作流程的核心，因为他们可以在最终计划生成之前接受、拒绝、修改或添加论点。这种设计减少了手动工作负载，同时保留了临床判断、人类能动性和问责制。¹¹¹CoPlan 的视频演示可在https://youtu.be/Fel3ZCF3khY获取。

### 3.1 问题环境形式化

我们考虑一个决策环境，其目标是为居住在社区的老年人制定安全且个性化的护理计划。该任务需要综合临床状况、功能能力、环境风险和个人偏好。在实践中，高质量的护理规划需要多个专业角色的贡献，因为没有一个学科能完全捕捉原地养老的复杂性。我们的系统旨在通过创建一个结构化的多智能体环境来支持这一过程，在该环境中，不同的专业观点被揭示、比较和验证。

形式上，我们将环境建模为一个元组：
M=⟨P,D,O,A,Γ,H,V,Π⟩。\mathcal{M} = \langle P,\mathcal{D},\mathcal{O},\mathcal{A},\Gamma,H,V,\Pi\rangle。(1)

这里，患者信息P描述健康状况、功能状态和情境因素。系统检索一组证据文档D。生成模型使用P和D提出一组候选护理选项O。然后，护理团队招募机制选择一个医疗保健角色子集，记为A，作为提供专家分析的智能体。每个智能体为每个选项生成支持和挑战论点，创建一个论点池Γ。人类审查者可以修订这个集合，产生Γ_H。一个基于量化双极论证语义的验证算子V为每个论点分配一个可接受性程度。最后，护理计划算子Π综合出一个推荐的护理计划...