@MaximeRivest: Pi 编码代理在其价格上通常是最优的。Pi 的系统提示非常简短,只有4个工具。我的 Pi 系统...

X AI KOLs Timeline 新闻

摘要

Maxime Rivest 分享了使用自定义系统提示优化 Pi 编码代理使用的技巧,Matei Zaharia 讨论了在 Databricks 对编码代理进行基准测试时发现的令人惊讶的结果。

Pi 编码代理通常在其价位上表现最佳。 Pi 的系统提示非常简短,只有4个工具。 我的 Pi 系统提示更加极简,我得到了更好、更便宜的结果(凭我的直觉;抱歉,我还没有更好的证据!) 怎么做? 我有一个自定义扩展,可以轻松更改系统提示,现在我有25种模式(预先编写的专用系统提示)。 模型在更小的上下文方面表现更好,这一点现在大家都已接受。我也觉得大家都会接受这样一个事实:模型使用专用系统提示效果更好。然而,没有人对编码代理这样做!在 Pi 中,代理被告知它们是编码代理,而我更喜欢让它们认为自己是一个库 X 的维护者,可以访问一些工具。或者认为自己是文档编写者等。 LLM 被训练成在遵循系统提示方面比用户提示更加“响应”和“勤奋”。我们必须利用这一点! 我经常在对话中途切换系统提示: > 哦,不是我的提示缓存! 实际上这并不糟糕,根据我的经验,完全值得!由于在下一轮性能提升,模型使用更少的工具调用并更快成功,抵消了不支持提示缓存的成本。 简而言之,我推荐 Pi,并且建议你找到一种方法来更改系统提示。
查看原文
查看缓存全文

缓存时间: 2026/07/09 19:51

Pi 编码代理通常在同价位中表现最佳。

Pi 的系统提示非常简短,只有 4 个工具。

我的 Pi 系统提示更极简,得到的效果更好且成本更低(凭直觉判断;抱歉,暂时没有更实在的证据!)

怎么做到的?

我有一个自定义扩展,能轻松更改系统提示,现在我有 25 种模式(预先写好的专用系统提示)。

模型在小上下文下表现更好,这已是公认事实。我也觉得,大家都会承认模型配合专用系统提示效果更好。但偏偏没人对编码代理这么做!Pi 代理被设定为 Pi 中的编码代理,而我更倾向于让它们把自己当成某个库的维护者,并允许访问部分工具;或是文档撰写者等。

大型语言模型被训练成对系统提示极度“响应”且“勤勉”,优先级高于用户提示。我们必须善用这一点!

我经常在对话中途切换系统提示:

哦,不是我的提示缓存!

实际上这并不差,根据我的经验完全值得!得益于性能提升,模型在下一轮对话中使用的工具调用更少,完成任务更快,足以抵消无法利用提示缓存的成本。

简而言之,我推荐 Pi,也推荐你找个方法让自己能随时切换系统提示。

这里是 vibed 仓库,供参考灵感。

我附上了一些我的模式。我最喜欢的是 stackoverflow 和 surprise-reporter。

https://github.com/MaximeRivest/pi-modes…

我经常在对话靠后轮次切换系统提示,用系统提示代替用户提示,因为这样能让模型更积极地调整方向。用我的提示替换 Pi 的提示,而不是追加在后面,以避免“混淆”:

你是 Pi 编码助手。[追加] 你是 stackoverflow 响应模拟器。

我也会切换工具描述的开关,有时让模型认为没有工具存在(这样它就直接回复)。

没错!我之前一直觉得这没什么意思。让我推送出来吧。

这里是 vibed 仓库,供参考灵感。

我附上了一些我的模式。我最喜欢的是 stackoverflow 和 surprise-reporter。

https://github.com/MaximeRivest/pi-modes…

相似文章

Pi Coding Agent

Product Hunt

Pi Coding Agent 是一个可自定义的编码代理构建工具,现已在 Product Hunt 上发布。