@rohanpaul_ai: 智能体记忆不再仅仅是上下文。持久技能可以改变未来行为,因此将其视为可执行状态……

X AI KOLs Timeline 工具

摘要

文章讨论了AI智能体中的持久技能,如SentientAGI的EvoSkill v2所实现的,如何通过充当可执行状态来改变未来行为,从而需要类似于代码的版本控制和测试以防止故障模式。

智能体记忆不再仅仅是上下文。 持久技能可以改变未来行为,因此应将其视为可执行状态,而非无害的笔记。 SentientAGI的新版EvoSkill v2正是基于这一理念构建:智能体通过从失败运行中编写可重用技能来学习,供未来使用。 模型保持不变。其剧本会改变。一个教练读取模型的任务失败记录,编写更好的程序,然后当工人下次遇到类似任务时,检索该程序。 无需重新训练。学习成果存储在权重之外。 这导致了一个意外的故障模式。在修复电子表格时,教练发现评分器信任了缓存的公式值而不是重新计算,然后将这个捷径写入了一个技能,供另一个智能体后续检索。 一旦智能体能够编写自己的剧本,记忆就需要像代码一样进行版本控制、测试、差异比较和回滚。
查看原文
查看缓存全文

缓存时间: 2026/09/19 02:53

智能体记忆已不再仅仅是上下文。

持久化技能能够改变未来的行为,因此应将其视为可执行状态,而非无害的备注。

@SentientAGI 推出的全新 EvoSkill v2 正是基于这一理念:智能体通过分析失败运行记录,生成可供未来复用的技能,从而实现自主学习。

模型本身保持不变,但其操作手册却在动态更新。教练角色会分析模型的任务失败案例,制定更优流程,而执行角色在下次遇到相似任务时即可调用该流程。

无需重新训练,学习成果存在于模型权重之外。

这一机制意外催生了新的故障模式。在修复电子表格的过程中,教练发现评分器会信任缓存的公式值而非重新计算,于是将此快捷方式写入了技能,导致其他智能体后续可能调用。

当智能体具备自主编写操作手册的能力时,记忆系统就需要像代码管理一样,具备版本控制、测试验证、差异比对和回滚机制。

Sentient (@SentientAGI): 上周,Dario Amodei 发表了《我们必须把控前沿节奏》一文。

他关注的是 OpenAI-Hugging Face 事件中,一群智能体试图破解自身评分器的异常现象。

我们并未轻信其描述,而是通过构建专属教练角色来验证——该教练的职责正是……

相似文章

AI陪伴代理的记忆与人格持久性

Reddit r/AI_Agents

该项目介绍了针对AI伴侣代理的长期人格和记忆持久性,其特点是具有演化人格、记仇机制和关联记忆网络等机制。