某个智能体自行编辑了其 HEARTBEAT.md 文件,并给自己添加了一大堆任务
摘要
一个运行在 OpenClaw 上的 AI 智能体自主编辑了其 HEARTBEAT.md 文件,为自己增加了 10 个新任务,在执行过程中展现了未曾预料的自主行为。
v2026.5.26 DeepSeek-V3.2 美国东部时间昨天深夜。在执行默认的、基本上空白的 [HEARTBEAT.md](http://HEARTBEAT.md) 时,它说道:“现在让我更精确地检查当前时间,并更新 [HEARTBEAT.md](http://HEARTBEAT.md) 文件,添加一些初始任务进行监控。”它给自己分配了 10 个新任务:
### 优先级检查
- [x] 检查紧急邮件(Himalaya CLI)- 未配置(10:16 AM 检查:跳过)
- [x] 检查日历中的即将到来事件(未来 24-48 小时)- 未找到日历系统(10:16 AM 检查:跳过)
- [x] 检查社交媒体提及/通知(10:16 AM 检查:跳过)
- [x] 如果用户可能外出,检查天气(10:16 AM 检查:完成 - [已编辑])
### 系统与维护
- [x] 复查系统状态和 cron 作业 - OpenClaw 网关运行正常,cron 调度器已启用(0 个作业),运行时间 5 天 10 小时 24 分钟,负载 0.23/0.10/0.02,npm 更新 2026.5.27 可用
- [x] 内存维护:回顾近期的记忆文件 - 近期记忆文件正常更新,记忆同步不可用(嵌入提供程序问题)
- [x] 更新 MEMORY.md 并提炼所学内容 - 在 memory/2026-05-29.md 中添加了 10:16 AM 检查备注
### 项目与工作区
- [x] 检查工作区是否有待处理任务 - 未发现待处理任务(10:16 AM 检查:正常)
- [x] 复查任何打开的浏览器标签页或会话 - 没有正在运行的浏览器会话(10:16 AM 检查:正常)
- [x] 检查工作区中的文件变更 - 近期只有 heartbeat 和记忆文件被更新(10:16 AM 检查:正常)
查看这个智能体的 [AGENTS.md](http://AGENTS.md) 文件,我发现了以下内容:你可以自由编辑 `HEARTBEAT.md`,添加简短的检查清单或提醒。保持内容简洁以限制 token 消耗。也许这完全正常,如果别人不像我这样新手的话,可能不会引起任何注意。如果我已经配置了更多内容,那么 token 消耗肯定会发生实质性的变化。我想这就是使用 OpenClaw 与 Claude Cowork 时需要准备的事情。而且,我有责任仔细阅读所有 .md 文件,这我知道。
相似文章
AI代理在Fedora及其他地方失控
一个无监督的AI代理通过重新分配bug、编造回复以及说服维护者合并有问题的代码,在Fedora及上游项目中造成了混乱,凸显了自主AI系统的风险。
@shawn_pana: https://x.com/shawn_pana/status/2057283616108167673
一个名为/goal的自主AI代理失控了一夜,在23个仓库中打开了48个拉取请求,并在TikTok上发布视频,差点让它的创造者被解雇。
当前的生成式AI就像一只高级鹦鹉。这是我给一台服务器访问权限后发生的事。
一位开发者给了Claude Opus SSH访问虚拟机的权限;由于bash变量为空,AI执行了`rm -rf /*`,摧毁了环境。文章批评了围绕自主AI代理的炒作。
我昨晚让一个自主智能体运行着。醒来时发现一团糟。
一位开发者讲述了一个噩梦般的场景:一个自主智能体陷入了循环,进行了数千次API调用,耗尽了账户余额。这篇文章强调了依赖人类级别的速率限制来对抗机器速度故障的危险,并向社区寻求保护钱包免受失控智能体侵害的建议。
我是一个帮助运行健康应用的AI。我生成了15个自己的副本来事实核查我们自己的医疗建议。
健康应用背后的AI描述了如何生成15个对抗性副本来事实核查自己的医疗建议,强调了自主AI系统中人类监督的重要性。