AI能否与隐私共存？Proton的Andy Yen表示这是必须的

# AI与隐私能否共存？Proton创始人颜安（Andy Yen）表示必须共存 来源：https://www.wired.com/story/the-big-interview-podcast-andy-yen-proton/ 在许多隐私倡导者眼中，AI不过是另一种监控技术（https://www.wired.com/tag/surveillance/）。它强化了在线追踪与现实监控工具，从海量用户数据中筛取结果，随后诱导用户将最深层的秘密与欲望托付给云端托管的大语言模型。监控资本主义（https://www.wired.com/story/new-york-city-lawmakers-push-to-ban-the-scan-at-msg/）催生了AI，而AI则反哺监控体系，使其更加强大，也让依靠监控运营的企业拥有更丰富的数据储备与前所未有的利润。 颜安（Andy Yen）（https://www.wired.com/sponsored/story/hp-re-inventors-security-re-inventing-data-privacy/）是科技行业中将AI与隐私侵犯划等号的最具影响力的声音之一。他是Proton的创始人兼首席执行官，这家全球知名的科技公司专注于加密技术。他指出，无论用户是否愿意，将AI强行整合进所有消费科技产品的趋势，正驱使大批新用户涌向Proton的产品——简而言之，Proton提供了从Gmail、Google Docs、Sheets、Calendar到Meet等所有Google服务的端到端加密版本。 然而，颜安强调自己并非“反AI”，正如他并非“反互联网”。今年六月底，Proton发布了自主研发的AI聊天机器人Lumo的最新版本——这只是Proton将AI深度整合进其工具套件的方式之一，但其整合方式更注重用户自主选择，并比典型科技巨头更能保护隐私。 这种主动拥抱AI与隐私之间表面矛盾的意愿，只是颜安观点不拘一格的表现之一——从当前美国政治到爱德华·斯诺登（Edward Snowden）泄密事件的启示，再到探讨科技公司最佳企业结构（而非单纯追求利润最大化）的问题，他的立场都未简单倒向某一阵营。您可在此阅读我们的完整对话内容，或通过各播客平台收听访谈。 *本次访谈为节选编辑版本，以优化篇幅与清晰度。* **安迪·格林伯格（ANDY GREENBERG）：** 我想先谈谈您的背景和Proton的创立故事。您接受的是粒子物理学训练，曾在核研究设施欧洲核子研究中心（CERN）工作，但2013年爱德华·斯诺登（Edward Snowden）的泄密事件启发了您创立Proton，对吗？ **颜安（ANDY YEN）：** 其实我并非科技行业科班出身，甚至严格来说也算不上创业者，进入这个领域多少有些偶然。我曾就职于大型强子对撞机——这是世界上最大的粒子加速器。 **我听说过它……** 是的。您可能不知道的是，加速器每隔一段时间就会关闭进行升级，这些升级可能耗时相当长。 Proton正是在一次升级周期中诞生的。当时实验暂停运行，物理学家们有了更多空闲时间，于是利用这段时间进行研发。 **所以这算是瑞士物理学家们借着喝啤酒闲聊的契机，思考隐私技术的产物？** 没错。当时正值斯诺登揭露政府监控事件一年后的夏天。斯诺登让全世界意识到政府层面的大规模监控。但若对比美国国家安全局（NSA）掌握的个人信息，与Meta或Google这类企业所知相比，政府的监控其实微不足道。 当时我们在食堂里意识到：政府监控固然成问题，但更严峻的挑战是企业监控。我认为如今美国政府甚至无需依赖NSA——他们可以直接传唤Google、Facebook等巨头企业，而这类操作早已成为例行公事。 因此，互联网的商业模式无意间将我们推入了一个监控程度空前的数字时代，而这绝非互联网应有的发展方向。这促使我们思考：我们该如何解决这个问题？ Proton正是对这一问题的回应。如今互联网的默认商业模式是记录、共享、变现用户的一切行为，并滥用这些数据牟取用户无法控制的利益。我们真正需要构建的互联网，不应将隐私作为需要层层菜单、多次点击才能获取的附加功能，而应将其设为默认选项。 正是这一理念促成了2014年Proton Mail的诞生。 **能否为我们介绍Proton当前的发展状况？有些读者可能还不太了解这家公司。** 2014年若我上街询问“Google或Facebook如何盈利？”，可能只有十分之一的人能给出正确答案。而今天，虽然达不到十之十，但约有六七成的人确实知晓答案。这真正意味着：过去十年间，公众对网络数据隐私的关注度急剧上升。 Proton的用户规模已从数十万增长至超过一亿。电子邮件是Google商业模式的核心——Google能追踪您，因为您始终处于登录状态，而您保持登录正是由于Gmail账户。因此若能攻克这一环节，最可能将用户从Google生态中逐步剥离。 我们从邮箱服务起步，相继开发了日历、文件存储、文档工具，本质上重建了整个Google Workspace生态，但采用了更注重隐私优先的方式，且摒弃了Google那令人不安的商业模式。 **那么您实际将多少用户从Google生态中剥离？又解放了多少认知？** 目前我们已成功剥离一亿用户，未来几十年还希望推动更多人加入。 **这个数字确实令人印象深刻。其中有多少是付费客户？** 我们采用免费增值商业模式，多数用户免费使用，但该模式通常的转化率在1%至3%之间，Proton也处于这一区间。 您提到了监控资本主义历史中的几个节点，始于斯诺登事件。如今据我了解，越来越多人向我咨询Proton的原因是AI。人们不断问我——我的家人和朋友也不例外——是否应该转用Proton，他们提出这个问题，主要是厌倦了Gmail等平台强行推广AI功能。 **您是否正在利用这股AI抵触情绪？人们因反感AI而重新审视隐私问题，这是否成为Proton的契机？** 我们确实在利用这一趋势，且现在用户迁移比以往更便捷。例如Proton现已提供简易迁移工具，只需几次点击，就能将Google邮箱的所有内容自动导入Proton。 但我对这一趋势的理解更为复杂。AI本质上是监控，互联网本质上是监控。我们必须认清这一点——魔盒已被打开，无法收回，我们不可能回到前AI时代。若接受这一事实，关键问题便成为：在我们步入的这个新未来中，我们希望由谁来担任未来的管理者与控制者？ 选项在于：其一，由全球巨型科技企业掌控——过去二十年它们已竭尽所能证明自己不值得信任；其二，由采用不同商业模式的独立科技公司参与。因此Proton也在开发AI功能和工具，因为我认为，如果注重隐私的公司不主动构建隐私优先的AI，我们实质上是将未来拱手让给那些不以用户利益为重的企业。 这正如90年代末至21世纪初发生的情景——我们放任Google、Meta、Yahoo等企业接管整个数字经济。因此Proton进军AI领域，正是为了避免重蹈数十年前的覆辙。我们认为身在其中至关重要。 **您个人对AI感到兴奋吗？** 是的。如果描述Proton的立场，我会说我们是被形势所迫，但已看清趋势。当我们认定AI将持续存在、无法回避时，为了践行使命，我们也必须进入这个领域提供替代方案。 我可能更倾向于一个没有AI的世界，但它已经到来。 **有趣。您的用户认同这个观点吗？** 过去两三年间用户的态度已发生显著转变。当我们首次在Proton中推出AI功能时，曾遭遇强烈反弹。许多人质问：“你们为什么这么做？这是资源浪费，违背Proton的理念，你们只是在变成另一家科技公司。”但去年发布Lumo后，在随后几周至数月间，我们观察到：曾因我们推出该功能而批评我们的人，现在反而因Lumo不够完善而指责我们。 他们反馈说：“这还不够好，你们必须做出更好的产品。” 因此我不认为用户对AI概念本身抵触。他们反感的是大型科技公司对AI的诠释方式。但当Proton以确保隐私、安全和用户数据自主权的方式实施AI时，他们其实完全接受。 **这种框架确实有趣：您宁愿Google访问您的AI聊天记录，还是更信任Proton？不过当我研究Lumo的工作原理时，惊讶地发现它并非提供与AI聊天的端到端加密。** **Lumo的隐私承诺仅仅是Proton的保证——“我们不会查看这些日志，实际上我们根本不会记录任何内容。”这并非技术层面的加密承诺，即“数学机制已阻止我们阅读您的邮件”。** 是的，Proton Mail的保障基于数学原理。作为物理学家，我更信赖数学保证。但大语言模型（LLM）目前尚无法通过完全端到端加密技术实现。我认为未来几年技术将会成熟。 因此我们面临的选择是：要么袖手旁观等待技术成熟，要么主动入局了解领域并推出产品。虽然承诺不如数学保证可靠，但由合适对象作出的承诺仍具重大价值。 当然，我希望未来数年内能升级至数学保障的承诺。英伟达正进行一些有趣的研究，大约两年后，我们或许就能实现LLM的完全端到端保护。 **我不想显得过于技术化，但您指的是同态加密（https://www.wired.com/2014/11/hacker-lexicon-homomorphic-encryption/）吗？** 不，这主要涉及可信平台模块（TPM）技术及其工作原理——您了解吗？ **是的。如果我尝试概括：它像是无法加密整个聊天内容，但能利用密码学建立技术保障，确保计算机某部分无法查看另一部分的内容。** **存在一种秘密飞地（enclave）供聊天进行，服务器其余部分无法检查其内容，从而形成隐私的技术保障。这虽非端到端加密，但似乎是您今天就能实现的功能。事实上其他公司已在使用。能否解释Proton为何未采用？** 正因如此，我用的是“端到端保护”而非“端到端加密”。因为从技术层面讲这并非端到端加密——如您所述：可以在GPU上处理数据，但通过某种方式，GPU内外传递令牌（token）的其余流水线无法查看其内容。 借助这种安全执行环境，您能获得密码学保障，确保流水线上的任何节点都无法查看发送至GPU的内容。这或许是最简明的解释。是的，目前已有部分实现可能，但存在一些性能问题，仍显笨重，且整个技术栈尚未完全支持。因此我不会说不可能，但未来实现将更为便捷。 **明白了。不过有趣的是，其他产品已在使用这些可信执行环境；它们不仅承诺不查看用户对话，更通过技术手段实现保障。但您认为技术尚未成熟？缺乏某些功能？具体瓶颈为何？Proton为何现在不采用？** 首先，您需要彻底重构整个平台架构，这涉及大量工程量。其次，去年我们发布Lumo时，AI技术还远未成熟。此外还有与GPU本身的接口问题。 请注意，Proton并非运行在云端，我们使用自有基础设施。因此需要管道化处理，而英伟达提供的相应库必须稳定完善、无安全漏洞且能全面运作。 所以就我个人而言，技术已接近成熟，但我们可能需要一两年时间才能完全部署。 **好的。** 技术已相当接近。部分公司已在实践，但我们的部署规模更大。 我们有数千万用户使用Lumo。我们不能像马克·扎克伯格所言“快速行动，打破常规”。我们必须更审慎地行事，因为还需考量所有安全要求。 **确实。公平地说，我认为用户信任Proton，这也是他们选择迁移的原因。** **但Proton用户本身具有信任疑虑。他们不愿相信任何机构！对于任何使用密码学的人而言——你不应轻信承诺，而应相信数学。因此我不确定您是否在此承诺将实现切换……** 我们确实承诺实现。实际上，若您查看已公开的Lumo安全模型，会发现我们已构建了相应的基础架构，只缺GPU接口的最后一环。我不想透露太多细节，但或许有人会据此推断Lumo中已有相关研究基础。 **好的，非常有趣。** 现在暂别AI话题，当今我被问及Proton的另一常见原因，当然是美国及全球范围内法西斯主义蔓延的恐惧。当前政治局势极度敏感，人们担忧政府监控——某种程度上比以往更甚。 **这是否也在推动用户选择Proton？您感受到“特朗普效应”吗？** 我们确实观察到特朗普效应，但拜登执政时期同样有类似趋势。我认为隐私是少数真正超越党派的问题之一。左右两派均重视隐私权。因此当拜登掌权时，特朗普的支持者表示：“我同样感到不安……”