我把真实的医疗记录交给了我的OpenClaw智能体。这是我构建的防护层,确保它不会出错。

Reddit r/openclaw 工具

摘要

一位开发者分享了他的开源项目HealthClaw Guardrails,该项目为访问真实健康记录的LLM智能体实施安全防护,包括PHI脱敏、审计日志和人工确认机制,并提供一个合规性端点用于测试。

我在Mac mini上设置了几个角色来运行OpenClaw。其中一个叫Sally的角色基本上是我家庭的首诊助理。她拥有我真实的医疗记录,这些记录通过一个消费者健康连接器从Epic系统中拉取。真实的化验结果、真实的病情、真实的血压读数,所有信息都通过Telegram传递。将真实的健康记录交给LLM智能体显然是个糟糕的主意,所以我花了过去一年的时间构建了一个让它不那么糟糕的防护层。这个项目是开源的(MIT协议):HealthClaw Guardrails。它的作用是:作为任何智能体(OpenClaw、Claude,或者任何支持MCP协议的)与健康记录之间的中间层,在每次请求中强制执行六项措施: - 在数据到达模型之前进行PHI(姓名、地址等信息)脱敏(姓名变为缩写,标识符被屏蔽,智能体可以说“你的钾水平正常”而无需接触你的社保号) - 不可篡改的审计日志记录每次读写操作,让你清晰了解智能体看到了什么 - 写入操作需要短期有效的签名令牌,智能体无法通过对话的副作用修改记录 - 临床操作会返回HTTP 428状态码,直到人类明确确认后才执行 - 严格的租户隔离(我的记录和我孩子的记录绝不会混在一起) - 在每项临床内容中注入医疗免责声明(如果你愿意,可以通过二维码链接将数据分享给你的医疗服务提供者) 我认为这个子版块真正关心的是:安全性是可测试的,而非空头承诺。项目提供了一个$conformance端点,它会使用合成数据探测定型部署,并在所有六项属性上给出A到F的评分。该检查会集成到CI流程中,因此一旦我破坏了某个防护规则,构建就会失败。你现在就能对我的生产环境运行这个检查。 让我受教的是:我最近以全新的视角对自己的项目进行了一次严格审查,发现我的人工确认环节部分程度上只是表面功夫。MCP转发层会自动添加“人工已确认”的头部信息。HTTP网关虽然是真实的,但智能体自身的工具链也能满足这个条件。我现在正在彻底修复这个问题:审批过程完全移出带外通道(在手机上显示一张卡片,包含具体操作内容;如果是电话,则显示逐字脚本以及将口头说出的健康细节;唯一的执行方法就是点击“批准”按钮)。发布这个帖子部分是为了自我问责。 接下来的计划,以及语音方面的思路:同样的防护层将用于真实世界的操作。智能体提议给我的药房打电话续方,我看到确切的脚本,点击批准,AI语音智能体就会拨打真实电话,一分钟后我就能阅读通话记录。它只能拨打我注册过的号码。电话和短信功能会最先落地,接着是自动填写的就诊表格(每次看新医生时的剪贴板),然后是预约挂号。之前看到OpenClaw Voice硬件的帖子后我就在想,本地语音输入、带防护的语音输出可能是个有趣的组合。 项目当前的真实状态:它能运行,每天处理我家庭的健康数据,大约有1000个测试,但几乎没人使用它。GitHub上只有26颗星。如果你在使用OpenClaw,并且曾经想过将其指向你的健康数据,我非常希望你能尝试一下并告诉我哪里会出错。操作层是一个小巧的插件接口(一个执行器大约50行代码),如果你想在确认网关后面添加一项功能,这是最便捷的途径。我欢迎所有PR和任何反馈,最难的部分一直是让人们真正使用它并告诉我哪些地方有效、哪些无效。希望这能有所帮助! *我在OpenClaw Reddit上的第一帖 仓库:https://github.com/aks129/HealthClawGuardrails 在线合规性检查:https://app.healthclaw.io/r6/fhir/$conformance 这不是产品推销,没有任何购买项。我只是认为无论我们是否愿意,智能体迟早会接触到健康数据,而我更希望安全层是开源且由社区拥有的,而不是某个应用内的黑盒。我相信患者应该拥有自己所有的健康数据,而不是由营利性供应商或医疗系统来拥有。
查看原文

相似文章

用于纵向个人健康管理的自进化代理

arXiv cs.AI

HealthClaw 是一个开源的代理架构,用于纵向个人健康管理,它使用自进化记忆来改进对重复交互的支持,在生物医学任务中实现了比基线更高的准确性和隐私性。

OpenClaw 安全的发展方向

Hacker News Top

OpenClaw 详细介绍了其安全架构,使用 `fs-safe` 进行文件系统边界控制以及 Proxyline 进行网络出口控制,旨在使其 AI 个人助理值得信赖且可审计。