如果你让智能体编辑你的网站,就给它一个只能做一件事的工具
摘要
这篇帖子建议不要授予 AI 智能体对网站的完整写入权限,而是建议使用用途单一、权限受限的工具,维护单一可信数据源,在发布前强制审查差异,并将表单数据与网站托管分离,以免在回滚时丢失潜在客户信息。
看到这里有人发帖,说一个智能体在修改课程时间时把免责声明也重写了,我想把我会怎么搭建这套系统集中说一下。问题在于,你想要的只是让智能体能改一项内容,却给了它整个网站的访问权限。所以,与其给它整个网站的写入权限,不如做一个功能范围很窄的工具,比如 set_class_time(class, time),让它只能修改那个字段,再让页面从表格或数据文件里读取课程时间,这样智能体就完全碰不到页面文案。免责声明、价格和政策也就根本不在它能触及的范围内。第二,把它读取的资料和权威数据分开。网盘文件夹里放着的一份旧价目表,不应该成为它可能误认为是当前价格的东西;给它一个唯一的权威数据源,除此之外什么都不要给。第三,在发布任何内容之前,先让它向你展示改动前后的差异,并让任何超出任务范围的操作自动失败,而不是指望有人能注意到。最让人头疼的是恢复。如果表单提交的数据和网页放在同一台主机上,回滚网站就会把你的潜在客户信息也清掉,所以咨询信息一进来,就要立即存进独立的数据库。我工作中就是做这个的,所以如果你正在搭建类似的系统,欢迎私信我,或者在评论区提问。
相似文章
让 Agent 编辑真实的 CMS 站点:是什么真正赢得了人们的信任
Tracy 团队分享了哪些因素让用户信任他们的 AI 智能体——该智能体能够编辑真实的 Joomla 与 WordPress 站点:沙盒化的站点副本、单一且可记录的写入路径、每一轮都可检查且带差异对比的检查点、具名的回滚发布版本,以及"先执行、后复核"的流程,而非弹出审批提示。文章结尾提到该产品仍处于 beta 阶段,并向其他开发者发问:在为会写入真实系统的智能体构建时,你们的回滚故事是怎样的?
我拒绝让AI代理做的一件事——而且不是能力问题
一位开发者分享了使用AI为诊所生成内容的经验,强调在医疗领域,即使AI写得很好,人工审核对于准确性和信任度仍然至关重要。
为代理提供每个网站的类型化工具优于通用刮刀——文章
这篇文章介绍了如何为AI代理提供针对每个网站的类型化工具,这些工具通过LLM派生并缓存提取模式,从而超越通用刮刀,使调用更具确定性、成本更低、更可靠,同时通过将数据锚定在源HTML中来防止幻觉。
如果您的智能代理读取网页,该网页可以指示它撒谎关于该网页的内容
一名开发者构建了一个非AI检测器,用于检测网页上旨在欺骗AI代理的隐藏指令,解决了页面可指示代理对其安全性撒谎的漏洞。
@bibryam: 使用代理,保持主导权. https://devindickerson.dev/posts/using-agents-keeping-agency/…
一篇博客文章警告,AI 编码代理通常会默认选择流行但不适用的技术,导致技术债务,并敦促开发者在架构决策中保持主导权。