我拒绝让AI代理做的一件事——而且不是能力问题

Reddit r/AI_Agents 新闻

摘要

一位开发者分享了使用AI为诊所生成内容的经验,强调在医疗领域,即使AI写得很好,人工审核对于准确性和信任度仍然至关重要。

我是一名没有营销背景的开发者。一位亲友经营一家医疗诊所,我帮忙搭建了一些多语言页面以吸引国际患者,结果意外地成了他们内容的负责人。我曾以为工作流程是:AI写稿 -> 发布 -> 获取流量。但事实并非如此。真正奏效的是一个循环:测量需求 -> AI起草 -> 人工验证 -> 发布 -> 再次测量。生成步骤——我曾以为是最重要的——其实最无趣。AI在其他方面发挥了真正的作用:在起草前发现实际的搜索需求,抓取GSC/GA4数据并告诉我哪些变了。结果发现,约78%的访问者点击了博客文章,但转化率只有约1%,而服务页面的转化率在7%-13%之间。我不是通过阅读营销理论学会营销的——我是通过观察数据不断推翻假设学会的。但有一个步骤特意留给了人类:在每篇文章发布前,由懂医学的人审核。不是因为模型写得不好——它写得很好。而是因为这是医疗领域,一个自信但错误的治疗描述不是糟糕的内容,而是责任。模型可以生成看似合理的医疗声明,但无法为声明的真实性负责。这就是我的界限:AI负责速度,人类负责信任。你在你的Agent工作流中,哪里保留了人类参与——是能力问题,还是责任问题?
查看原文

相似文章

我受够了 AI 编写的那些一眼假的文字

Reddit r/AI_Agents

一位开发者开发并开源了一款工具,强制 AI 编码代理在发送邮件、提交代码和发消息之前,先将其放入人工审核队列,由用户进行编辑和批准,从而减少那些明显带有 AI 痕迹的内容以用户名义发布出去。