尊重用户对「机器」的恐惧

# 尊重你的用户对 AI 机器人的恐惧 来源：https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers 如今人们对 AI 的看法呈现一个光谱：从全盘接受、过度热衷的"氛围生活"信徒，到敌视技术的顽固派。就我个人而言，这一周里我在光谱的两端来回切换了好几次。 我们这些 AI 怀疑论者，即便每天都在使用 LLM，也有充分的理由对其感到恐惧、厌恶甚至恶心： - 对环境和经济的负面影响 - 数据滥用 - 用未经作者同意的作品进行训练 - 偏见、幻觉，以及缺乏问责机制 - 抢走我们的工作 - 以及更多问题！ 所以，请把你的 AI 产品做成让我可以选择退出的。 ## 渐进式选择加入（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#opting-in-progressively） 核心思路是照顾到 AI 爱恨光谱上的所有人。为此，你要给我足够细粒度的控制权，让我决定 AI 到底被使用多少，以及哪些个人数据被塞进"炉膛"里。我希望： 1. 看到我的数据将如何被 AI 使用 2. 看到我能从中得到什么好处 3. 逐项授予权限 而且我不希望这些东西藏在你的《服务条款》和《隐私政策》里。这些信息必须出现在使用场景中，因为我会一项一项地权衡。 ## 即时授权（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#just-in-time-consent） 我希望在开始时就零授权。我希望你在我真正需要的时候再向我请求权限。未经我说同意，就别用 AI。 iOS 通知权限弹窗，带允许/不允许按钮 在移动应用中，你已经在用这种模式来请求额外权限了，比如位置共享和推送通知。你知道如果应用一打开就弹通知请求，我肯定会拒绝。所以你会等到能证明其有用的时候再请求。我们把这种模式称为"soft ask"（软性请求）、"pre-prompt"（预提示）或者"pretty please"（求求你嘛）。 AI 也是一样的道理：如果你的注册页面就写着"顺便说一句，我们会把你所有数据都发给 LLM，还会强迫你和我们的 AI agent 聊天！"，我会心存疑虑。但如果你稍等一会儿再说"嘿，我们发现你卡在这个表单上了——要不要让我们的 agent 来帮你？"，我很可能会同意，也很可能会说"可以，你用我的数据做这件事没问题"。这说明你尊重我的选择，而且你已经证明了价值。 一旦我同意使用 AI，这并不意味着我就同意让你把我关于我的每一个字节的数据都喂给它。当然，如果 AI 能访问我所有的个人信息、信用卡账单和健康信息，你的 AI 会更高效、更准确。但我并不在乎。再强调一次——你需要证明价值。 我没有通过勾选一个复选框然后点提交按钮就给出一揽子授权。你需要逐步向我请求权限，之后还要让我能够撤回权限。 ### 你的 agent 如何逐步请求授权（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#how-your-agent-can-ask-for-permission-progressively） 一切都取决于上下文和提示工程。以下是我用过或观察到的一些技巧： 根据用户已授权的范围，动态构建 agent 的工具或技能列表。 在你的 LLM 系统提示中，列出用户已授权和未授权共享的数据项清单。 提示你的 agent 去请求授权。比如这样写："该用户（已/未）授权你访问其财务账户。你可以请求访问权限——引导用户前往设置页面开启访问。"或者："该用户已授权你以只读方式访问其文档。如果你需要编辑文档，请请求写权限，并准确说明用途。"要确保 agent 知道"不行！"也是一个合理的回答。如果它没有获得真实数据，就不应该猜测或幻觉。 关键要素是让 LLM 知道： - 它目前能访问什么？ - 它有可能访问到什么？ - 它如何利用这些数据为用户带来好处？ - 用户如何授权访问？ ## 预先授权（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#pre-approval） 如果你无法做到即时授权，那就需要提前获得用户同意。记住——保持粒度化，并告诉我我能获得什么好处。如果我要把健康数据关联到你的应用，你不能只有一个"好的，请把我的完整病史发送给 Anthropic"这样的复选框，或者"允许与我们的商业合作伙伴共享更多信息"。而是应该考虑类似这样的选项： - [ ] 允许我们的 AI agent 代表你预约就诊 - [ ] 与 LLM 合作伙伴共享匿名就诊记录，以便为你提供摘要 - [ ] 使用 AI 审查 X 光及其他放射影像，标记异常情况 要在收集数据的地方请求使用该数据进行 AI 处理的权限。如果我在填写注册表单，那么授权共享表单数据的地方就应该是那个表单。如果我在连接日历，授权 AI 操纵我日历的地方就应该在那里。 ## 撤回权限（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#clawback） 如果我能授权你的 LLM 吸收我的个人信息，那么我也一定能撤销这个授权！所以请给我提供这样的用户界面。让我看看 AI 目前在消费哪些数据、用来做什么，以及如果我取消勾选会产生什么影响。 如果我改变主意，想要移除 AI 对我数据的访问权限，那就意味着真正意义上的移除。清掉提示缓存。净化 agent 的对话历史。删除日志。移除 AI 对那些工具调用的访问权限。 ## 别诱惑我！我不敢碰它，哪怕是为了把它收好、不去使用也不行。想要使用它的欲望，会超出我的意志力。——甘道夫（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#do-not-tempt-me-i-dare-not-take-it-not-even-to-keep-it-safe-unused-the-wish-to-wield-it-would-be-too-great-for-my-strength-%E2%80%93gandalf） 甘道夫电影剧照，配文"别诱惑我，弗罗多！" 有了对话式 agentic AI，你获得了一种新能力——可以索取海量的自由格式敏感数据。那是一个自由文本输入框，我很可能无意中透露比预期更多的东西：API 密钥、密码、图书馆借书证号。**别收下！** 你不会想要承担保管我的个人信息或机密的责任。你也不需要冒 Claude 大肆消费的风险。 ### 你的 agent 如何拒绝处理个人信息和机密？（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#how-can-your-agent-reject-pii-and-secrets） 以下是我用过的一些技巧： 提示 agent 避免索取机密信息。在我参与开发一个能配置 API 调用的 agent 时，我们在系统提示中加入指令，要求 LLM 绝不能询问 API 密钥、令牌或密码。LLM 应该改为教用户如何以安全的方式提供这些信息。我们还在系统提示中要求 LLM 绝不重复用户提供的私人、机密数据。某条数据曾经出现在日志里，并不意味着 agent 就可以把它当作上下文来使用。 在浏览器端检测个人信息和机密信息，赶在数据到达 agent 之前。我用正则表达式来检测 API 密钥。你也可以用轻量级 ML 模型来检测常见的个人信息。然后警告用户："嘿，看起来你不小心漏出来了——你确定要把它分享给我们吗？"或者直接屏蔽它。thoughtbot 的 top\_secret Ruby gem（https://github.com/thoughtbot/top\_secret）在服务端做的是同样的事情。 ## 如果他说"不"呢？（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#what-if-he-says-no） 那么，如果我说"不用了，我不要 AI"，你该怎么办？就像我说"我不会共享我的位置数据"时你会做的那样。你要给我提供替代方案——手动的方式。也许我的体验没那么好，也许我需要多做一些工作。但我的原则保持完好。 ## 一个与互联网同样古老的故事（https://thoughtbot.com/blog/respecting-your-users-dread-of-the-clankers#a-tale-as-old-as-the-internet） 猜怎么着——这些建议并不是全新的。它们源自 2000 年代初及更早的隐私运动所提出的要求，那时候我们刚刚发现自己的数据是如何被政府拿走、然后卖给垃圾邮件发送者的。我所要求的只是让我能控制自己暴露在 AI 之下的程度，并给我一个把数据交给机器人的好理由。