如果你让智能体编辑你的网站,就给它一个只能做一件事的工具

Reddit r/AI_Agents 新闻

摘要

这篇帖子建议不要授予 AI 智能体对网站的完整写入权限,而是建议使用用途单一、权限受限的工具,维护单一可信数据源,在发布前强制审查差异,并将表单数据与网站托管分离,以免在回滚时丢失潜在客户信息。

看到这里有人发帖,说一个智能体在修改课程时间时把免责声明也重写了,我想把我会怎么搭建这套系统集中说一下。问题在于,你想要的只是让智能体能改一项内容,却给了它整个网站的访问权限。所以,与其给它整个网站的写入权限,不如做一个功能范围很窄的工具,比如 set_class_time(class, time),让它只能修改那个字段,再让页面从表格或数据文件里读取课程时间,这样智能体就完全碰不到页面文案。免责声明、价格和政策也就根本不在它能触及的范围内。第二,把它读取的资料和权威数据分开。网盘文件夹里放着的一份旧价目表,不应该成为它可能误认为是当前价格的东西;给它一个唯一的权威数据源,除此之外什么都不要给。第三,在发布任何内容之前,先让它向你展示改动前后的差异,并让任何超出任务范围的操作自动失败,而不是指望有人能注意到。最让人头疼的是恢复。如果表单提交的数据和网页放在同一台主机上,回滚网站就会把你的潜在客户信息也清掉,所以咨询信息一进来,就要立即存进独立的数据库。我工作中就是做这个的,所以如果你正在搭建类似的系统,欢迎私信我,或者在评论区提问。
查看原文

相似文章

让 Agent 编辑真实的 CMS 站点:是什么真正赢得了人们的信任

Reddit r/AI_Agents

Tracy 团队分享了哪些因素让用户信任他们的 AI 智能体——该智能体能够编辑真实的 Joomla 与 WordPress 站点:沙盒化的站点副本、单一且可记录的写入路径、每一轮都可检查且带差异对比的检查点、具名的回滚发布版本,以及"先执行、后复核"的流程,而非弹出审批提示。文章结尾提到该产品仍处于 beta 阶段,并向其他开发者发问:在为会写入真实系统的智能体构建时,你们的回滚故事是怎样的?