我觉得过去几个月我们已经经历了起飞的开始。奇点肯定就在眼前了。

摘要

## AI 的加速狂奔：我的大脑已经跟不上了 过去几周，我一直在刷科技新闻，越刷越睡不着。我们正处在一个奇怪的时间节点——AI 的进步不是按年计，而是按周计。让我把最近几件事串起来讲讲。 ### 1. 数学：机器真的在做「研究」了 还记得 **AlphaProof** 在 IMO 上拿到银牌分数的那一刻吗？当时我觉得这只是个炫技。但紧接着，**Terence Tao** 开始让 AI 参与他自己的研究流程——形式化证明、批量生成引理、筛选验证。这不是「解题」，这是**搞数学**。一个曾经被认为是人类智力最后一块高地的领域，正在被敲开。 ### 2. 政府终于开始签条约了 - **Council of Europe** 推出了首个具有法律约束力的 AI 框架公约 - 各大 AI 峰会上，多国签署了关于前沿模型安全评估的合作声明 - 多个政府开始设立专门的 AI 安全机构与监管沙盒 不管你觉得这些条约是真有用还是象征意义大于实际，有一点是明确的：**各国政府认为这件事已经严重到需要国际法级别的回应了**。这本身就是一种信号。 ### 3. AI Agent：越来越像「人」，而且可怕地逼真 最近的 Agent 演示已经不是「帮你订个机票」这种级别了： - 能连续工作数十分钟，自主拆解任务、调用工具、自我纠错 - 语音、表情、微反应都自然到让人忘记对面不是人 - 能在真实环境中导航、操作、与人协作 当我看到一个 AI agent 在被刻意刁难后仍然保持耐心、语气温和地解释自己的推理过程时，说实话，我的后背有点发凉。 ### 兴奋，还是恐惧？ **兴奋的部分：** - 数学、科学发现的瓶颈可能被彻底打通 - 无数重复性脑力劳动将被解放 - 人类可能在几年内触及以前需要几代人才能解决的问题 **恐惧的部分：** - 我们对齐（alignment）的进度，远远赶不上能力（capability）的进度 - 条约和监管永远比技术慢半拍 - 当 AI agent 的行为足够像人，**人类对它的判断力会自动失灵** ### 所以，奇点（Singularity）还远吗？ 以前我会说「至少还有几十年」。现在我诚实的回答是：**我不知道**。指数曲线的问题在于，身处曲线之中的人永远低估它。 我们这一代人可能真的会亲眼见证那个拐点。这既是人类历史上最激动人心的时刻，也可能是最需要清醒的时刻。 保持警觉，保持好奇，也保持人性。 *你怎么看？在评论区聊聊吧。*