锯齿形智能——或许是终点，而非临时绕道

当u/karpathy描述现代AI能力的奇怪形态时，他用了一个有用的词。这个想法是，模型能做什么的表面是不平滑的，不像人类能力大致平滑，而是不均匀的，近乎超人性能的尖锐高峰直接紧挨着令人尴尬的失败低谷。经典的演示是问一个前沿模型一周中有几天包含字母d，然后看它尝试回答。有时它回答四天。有时六天。答案是七天，因为一周的每一天都以“day”结尾，一个五岁孩子一眼就能看出来。同一个模型，在另一次提问中，可能会在OpenBSD中发现一个存在了27年的漏洞——这个操作系统完全建立在三十年的偏执代码审查声誉之上，而在这三十年间，人类研究人员都未能注意到它存在漏洞。这就是锯齿形的含义。这种智能是真实的，它的表面与人类能力的轮廓几乎毫无相似之处。自这个术语被提出以来，大部分讨论都停留在模型层面，将GPT与Claude比较，或Gemini与Grok比较，通过基准测试绘制地形，仿佛问题在于哪个模型更聪明，而非每个模型的尖峰指向何处。构建攻击鞍具改变了我看待这张地图的方式，因为锯齿形存在于多个层面，而它最具威力的层面几乎无人讨论。我反复想起的画面是一个带辐条的轮子。每一根辐条都是能力空间中的一个方向，在那里投入了人员、资本和数据的某种组合。有些辐条从模型侧生长出来，偶然或有意为之。有些辐条从鞍具侧生长出来，团队针对通用模型构建了其领域所需的确切框架。这个时代的持久产品大多将是两者的结合：一个在相关轴向上有自然倾向的模型，配以便于向上攀登的鞍具。编码是一个尖峰。法律是一个尖峰。蛋白质结构是一个尖峰。临床推理是一个尖峰。攻击性安全是一个尖峰。每个尖峰每个季度都在变高。然而现实是，你不需要是一个前沿实验室就能坐在其中一个辐条的顶端。你需要一个具有正确自然倾向的模型——这现在是通过API可获取的商品——以及一个由深谙目标领域的人构建的鞍具。那是一小群有信念和关于尖峰指向的清晰论点的工程师。无论道德立场如何，五个人组成的团队可以爬上其中一个辐条的最尖端，速度比旨在防御他们的机构反应更快。AI是伟大的均衡器，它特别在鞍具层实现均衡。模型是公共产品，每个人都可以以大致相同的价格访问。所以在我看来，鞍具才是策略优势所在，而构建鞍具的成本相对于它建成后的能力几乎微不足道。网络安全是这种不对称性的最清晰案例研究，因为该领域有超过二十年的公开历史，展示了在正常条件下攻击与防御之间的较量如何进行。在防御方，行业在这二十年里建设了基础设施：端点检测和响应系统，监控每台机器上的每个进程；安全信息和事件管理平台，聚合整个企业的日志；缓慢转向零信任架构，默认假设任何网络连接都是敌对的；公司与政府之间的威胁情报共享安排；强制性违规披露法律；漏洞赏金计划，支付研究人员在犯罪分子之前发现缺陷；以及安全劳动力本身的长期专业化。在攻击方，攻击者在这二十年里经历了持续的进化压力，当旧技术被修补时寻找新技术，并在防御者未能吸取前十年教训时（他们经常如此）退回使用旧技术。由此产生的平衡是一种令人不安的平衡。