我拒绝让AI代理做的一件事——而且不是能力问题
摘要
一位开发者分享了使用AI为诊所生成内容的经验,强调在医疗领域,即使AI写得很好,人工审核对于准确性和信任度仍然至关重要。
我是一名没有营销背景的开发者。一位亲友经营一家医疗诊所,我帮忙搭建了一些多语言页面以吸引国际患者,结果意外地成了他们内容的负责人。我曾以为工作流程是:AI写稿 -> 发布 -> 获取流量。但事实并非如此。真正奏效的是一个循环:测量需求 -> AI起草 -> 人工验证 -> 发布 -> 再次测量。生成步骤——我曾以为是最重要的——其实最无趣。AI在其他方面发挥了真正的作用:在起草前发现实际的搜索需求,抓取GSC/GA4数据并告诉我哪些变了。结果发现,约78%的访问者点击了博客文章,但转化率只有约1%,而服务页面的转化率在7%-13%之间。我不是通过阅读营销理论学会营销的——我是通过观察数据不断推翻假设学会的。但有一个步骤特意留给了人类:在每篇文章发布前,由懂医学的人审核。不是因为模型写得不好——它写得很好。而是因为这是医疗领域,一个自信但错误的治疗描述不是糟糕的内容,而是责任。模型可以生成看似合理的医疗声明,但无法为声明的真实性负责。这就是我的界限:AI负责速度,人类负责信任。你在你的Agent工作流中,哪里保留了人类参与——是能力问题,还是责任问题?
相似文章
我受够了 AI 编写的那些一眼假的文字
一位开发者开发并开源了一款工具,强制 AI 编码代理在发送邮件、提交代码和发消息之前,先将其放入人工审核队列,由用户进行编辑和批准,从而减少那些明显带有 AI 痕迹的内容以用户名义发布出去。
停止让工程师对您的 AI Agent 进行“感觉测试”
作者介绍了一款开源的无代码工具,旨在让医疗和法律领域的非技术型主题专家能够评估 AI Agent,从而超越以开发者为中心的测试方法。
如果你让智能体编辑你的网站,就给它一个只能做一件事的工具
这篇帖子建议不要授予 AI 智能体对网站的完整写入权限,而是建议使用用途单一、权限受限的工具,维护单一可信数据源,在发布前强制审查差异,并将表单数据与网站托管分离,以免在回滚时丢失潜在客户信息。
非技术创始人在此:智能体编写代码,我决定构建方向,AI网站构建器只是简单部分
一位非开发者创始人讨论使用AI工具构建应用程序,指出虽然AI能很好地处理编码语法,但人类判断对于功能优先级和边缘案例至关重要。
我为我的代理配备了搜索工具,但它拒绝使用,以及其他一些我犯的错误
作者详细介绍了构建一个用于书籍推荐的个人AI代理,分享了关于工具合规性、成本管理和反馈循环的经验,使用基于Go的实现。