我把真实的医疗记录交给了我的OpenClaw智能体。这是我构建的防护层,确保它不会出错。
摘要
一位开发者分享了他的开源项目HealthClaw Guardrails,该项目为访问真实健康记录的LLM智能体实施安全防护,包括PHI脱敏、审计日志和人工确认机制,并提供一个合规性端点用于测试。
我在Mac mini上设置了几个角色来运行OpenClaw。其中一个叫Sally的角色基本上是我家庭的首诊助理。她拥有我真实的医疗记录,这些记录通过一个消费者健康连接器从Epic系统中拉取。真实的化验结果、真实的病情、真实的血压读数,所有信息都通过Telegram传递。将真实的健康记录交给LLM智能体显然是个糟糕的主意,所以我花了过去一年的时间构建了一个让它不那么糟糕的防护层。这个项目是开源的(MIT协议):HealthClaw Guardrails。它的作用是:作为任何智能体(OpenClaw、Claude,或者任何支持MCP协议的)与健康记录之间的中间层,在每次请求中强制执行六项措施:
- 在数据到达模型之前进行PHI(姓名、地址等信息)脱敏(姓名变为缩写,标识符被屏蔽,智能体可以说“你的钾水平正常”而无需接触你的社保号)
- 不可篡改的审计日志记录每次读写操作,让你清晰了解智能体看到了什么
- 写入操作需要短期有效的签名令牌,智能体无法通过对话的副作用修改记录
- 临床操作会返回HTTP 428状态码,直到人类明确确认后才执行
- 严格的租户隔离(我的记录和我孩子的记录绝不会混在一起)
- 在每项临床内容中注入医疗免责声明(如果你愿意,可以通过二维码链接将数据分享给你的医疗服务提供者)
我认为这个子版块真正关心的是:安全性是可测试的,而非空头承诺。项目提供了一个$conformance端点,它会使用合成数据探测定型部署,并在所有六项属性上给出A到F的评分。该检查会集成到CI流程中,因此一旦我破坏了某个防护规则,构建就会失败。你现在就能对我的生产环境运行这个检查。
让我受教的是:我最近以全新的视角对自己的项目进行了一次严格审查,发现我的人工确认环节部分程度上只是表面功夫。MCP转发层会自动添加“人工已确认”的头部信息。HTTP网关虽然是真实的,但智能体自身的工具链也能满足这个条件。我现在正在彻底修复这个问题:审批过程完全移出带外通道(在手机上显示一张卡片,包含具体操作内容;如果是电话,则显示逐字脚本以及将口头说出的健康细节;唯一的执行方法就是点击“批准”按钮)。发布这个帖子部分是为了自我问责。
接下来的计划,以及语音方面的思路:同样的防护层将用于真实世界的操作。智能体提议给我的药房打电话续方,我看到确切的脚本,点击批准,AI语音智能体就会拨打真实电话,一分钟后我就能阅读通话记录。它只能拨打我注册过的号码。电话和短信功能会最先落地,接着是自动填写的就诊表格(每次看新医生时的剪贴板),然后是预约挂号。之前看到OpenClaw Voice硬件的帖子后我就在想,本地语音输入、带防护的语音输出可能是个有趣的组合。
项目当前的真实状态:它能运行,每天处理我家庭的健康数据,大约有1000个测试,但几乎没人使用它。GitHub上只有26颗星。如果你在使用OpenClaw,并且曾经想过将其指向你的健康数据,我非常希望你能尝试一下并告诉我哪里会出错。操作层是一个小巧的插件接口(一个执行器大约50行代码),如果你想在确认网关后面添加一项功能,这是最便捷的途径。我欢迎所有PR和任何反馈,最难的部分一直是让人们真正使用它并告诉我哪些地方有效、哪些无效。希望这能有所帮助!
*我在OpenClaw Reddit上的第一帖
仓库:https://github.com/aks129/HealthClawGuardrails
在线合规性检查:https://app.healthclaw.io/r6/fhir/$conformance
这不是产品推销,没有任何购买项。我只是认为无论我们是否愿意,智能体迟早会接触到健康数据,而我更希望安全层是开源且由社区拥有的,而不是某个应用内的黑盒。我相信患者应该拥有自己所有的健康数据,而不是由营利性供应商或医疗系统来拥有。
相似文章
openclaw 把我来自三个不同来源的健康数据整合到了一起,用于一个我差点忘记的医生预约 - 印象深刻
用户分享了使用 openclaw 将来自三个来源(健身手表、短信、手写笔记)的杂乱健康数据整合在一起,用于一次心脏科预约的积极体验,包括解决日程冲突、合并数据以及确保隐私。
用于纵向个人健康管理的自进化代理
HealthClaw 是一个开源的代理架构,用于纵向个人健康管理,它使用自进化记忆来改进对重复交互的支持,在生物医学任务中实现了比基线更高的准确性和隐私性。
适用于 OpenClaw 的个人健康 MCP(支持 Oura、Ultrahuman、Polar、Suunto、Withings、Garmin、WHOOP、Intervals.icu 等)
一个个人健康 MCP 服务器,通过统一接口和 OAuth 设备码流程,让 OpenClaw 等 AI 代理能够访问来自可穿戴设备(Oura、Garmin、WHOOP 等)的真实健康和表现数据。
OpenClaw 安全的发展方向
OpenClaw 详细介绍了其安全架构,使用 `fs-safe` 进行文件系统边界控制以及 Proxyline 进行网络出口控制,旨在使其 AI 个人助理值得信赖且可审计。
我建了一个插件,让OpenClaw在做任何有风险的事之前先问我手机
OKed 是一个 OpenClaw 插件,拦截风险性工具调用并在执行前需要用户批准,防止代理执行删除数据或发送付款等破坏性操作。