@levie：我们将面临一种奇怪的局面，那就是世界上一些“最难”的工作实际上很容易被……

X AI KOLs Following 新闻
ai-automation verifiability knowledge-work future-of-work ai-impact

摘要

Levie 和 Max Spero 讨论了可验证性如何决定哪些“困难”的知识工作会首先被自动化，他们认为，像数学、网络安全和代码这类可客观测试的领域，其 AI 自动化速度将快于结果主观的领域。

我们将面临一种奇怪的局面：世界上一些“最难”的工作实际上会首先被自动化，尤其是因为它们的可验证性。 数学、网络安全和代码——虽然都是极其困难且高价值的领域——却拥有可以客观测试其正确性的优势。这带来了两个直接好处：模型的训练能提供更清晰的奖励信号，而且模型的运行让你能够知道它是否正常工作，因为你可以用可扩展的方式测试结果。 相反，在其他工作领域中，即时可验证性要低得多。比如客户会同意哪些法律条款、根据不断变化的情绪该开展什么营销活动、销售潜在客户想听到什么信息、为企业设定什么样的财务目标和预算，等等。 所有这些领域都有不断变化的内部和外部因素，它们没有“唯一正确答案”，它们依赖于操作者的意见和风险承受水平，它们对首先获取正确的输入背景极为敏感，而且在很多情况下，即使模型生成结果之后，正确答案也可能要过相当一段时间才能知晓。 这种区别带来的影响是——即使模型能力持续指数级增长——在应用型 AI 层面仍有许多工作要做，而不仅仅是模型本身；而且，为了从自动化中获得全部收益，许多流程本身甚至需要随着时间而改变。我们甚至可能需要一系列全新的能力，来像对软件那样随时间对知识工作进行“测试”。
查看原文
查看缓存全文

缓存时间: 2026/08/03 01:46

我们将面临一种奇怪的局面：世界上一些“最困难”的工作反而最先被自动化，尤其是因为它们的可验证性。

数学、网络和代码——尽管是极其困难和高价值的领域——具有能够客观测试正确性的优势。这有两个直接好处：模型的训练提供了更清晰的奖励信号，而且模型的运行让你能够知道它是否正常工作，因为你可以用可扩展的方式测试结果。

相反，在其他工作领域，即时可验证性要低得多。你的客户会同意哪些法律条款，根据不断变化的情绪应该开展什么营销活动，你的销售潜在客户想听到什么信息，为企业设定什么财务目标和预算，等等。

所有这些领域都有不断变化的内部和外部因素，它们没有“唯一正确答案”，它们依赖运营者的意见和风险承受水平，它们对首先获取正确的输入上下文高度敏感，而且在许多情况下，在模型生成结果之后的相当一段时间内，正确答案甚至都无法知晓。

这种区别的影响在于——即使模型能力持续指数级增长——在应用AI层面，除了模型本身之外，还会有很多工作要做，而且许多流程本身甚至需要随着时间推移而改变，才能从自动化中获得全部收益。我们甚至可能需要全新的能力，以便像对待软件那样，随时间推移来“测试”知识工作。

Max Spero (@max_spero_): 在我看来，可验证性有几个不同的层级 1）可编程验证（近乎免费）

  • 游戏、编程、数学、网络安全、芯片设计 2）现实世界可验证（有成本或时间限制）
  • 科学：生物学、化学、物理学
  • 物理世界：材料科学、能源、

相似文章