你花了多久才相信*就是*这一刻?你的时间表是怎样的?

Reddit r/singularity 新闻

摘要

一篇社区讨论帖,反思AI编程智能体的快速发展,以及科技圈中日益增长的信念——模型向奇点的指数级进步已不可避免,预测AI将在3-5年内让大多数劳动变得过时。

看来这里大多数人持有一个共同观点:我们正走在通往奇点的不可逆转之路上,模型将持续不断地改进,直到它脱离我们自己的掌控,接近完全的自我维持。我必须承认,即使在一年前,我对这种观点还非常悲观。我记得当时大多数科技圈子里曾有过一段短暂的"哦,我们已经到达顶峰了"的时期,模型改进似乎在放缓,普遍的共识是训练数据已经用尽,因此改进的收益日益递减。差不多同一时期,还有关于用AI生成的数据训练AI会'毒化数据源'、进一步阻碍进展的说法。显然,事实并非如此。我想几个月前我反思了一下,自从做出那个判断以来,编程智能体的能力在过去一年里走了多远。不知不觉中,我已经从把代码的每个部分拆解成它能处理的小块,到只给它一个有范围限制的任务然后审查,再到规划出一个大功能然后让它自行运行。直到现在,我只需要提出需求,让它提交PR,然后稍微浏览一下代码就直接合并。突然之间,很难想象它会放缓或遇到不是人为设置的障碍,尤其是因为我们现在才刚刚开始让AI训练AI(而且最近的进展相比之前模型能力的飞跃似乎是指数级的)。在意识到任何它可以衡量或基准测试的东西都能被改进之后,再看到图像和视频理解方面我们已经取得的成果——我们要"AI complete"整个行业似乎已成定局。所以我想我在这里,是一个真正的信徒了。也许在3-5年的时间尺度上,一切都会彻底崩溃,世界不得不在社会政治层面快速演进,以跟上AI让大多数劳动过时的步伐?
查看原文

相似文章

我觉得过去几个月我们已经经历了起飞的开始。奇点肯定就在眼前了。

Reddit r/singularity

## AI 的加速狂奔:我的大脑已经跟不上了 过去几周,我一直在刷科技新闻,越刷越睡不着。我们正处在一个奇怪的时间节点——AI 的进步不是按年计,而是按周计。让我把最近几件事串起来讲讲。 ### 1. 数学:机器真的在做「研究」了 还记得 **AlphaProof** 在 IMO 上拿到银牌分数的那一刻吗?当时我觉得这只是个炫技。但紧接着,**Terence Tao** 开始让 AI 参与他自己的研究流程——形式化证明、批量生成引理、筛选验证。这不是「解题」,这是**搞数学**。一个曾经被认为是人类智力最后一块高地的领域,正在被敲开。 ### 2. 政府终于开始签条约了 - **Council of Europe** 推出了首个具有法律约束力的 AI 框架公约 - 各大 AI 峰会上,多国签署了关于前沿模型安全评估的合作声明 - 多个政府开始设立专门的 AI 安全机构与监管沙盒 不管你觉得这些条约是真有用还是象征意义大于实际,有一点是明确的:**各国政府认为这件事已经严重到需要国际法级别的回应了**。这本身就是一种信号。 ### 3. AI Agent:越来越像「人」,而且可怕地逼真 最近的 Agent 演示已经不是「帮你订个机票」这种级别了: - 能连续工作数十分钟,自主拆解任务、调用工具、自我纠错 - 语音、表情、微反应都自然到让人忘记对面不是人 - 能在真实环境中导航、操作、与人协作 当我看到一个 AI agent 在被刻意刁难后仍然保持耐心、语气温和地解释自己的推理过程时,说实话,我的后背有点发凉。 ### 兴奋,还是恐惧? **兴奋的部分:** - 数学、科学发现的瓶颈可能被彻底打通 - 无数重复性脑力劳动将被解放 - 人类可能在几年内触及以前需要几代人才能解决的问题 **恐惧的部分:** - 我们对齐(alignment)的进度,远远赶不上能力(capability)的进度 - 条约和监管永远比技术慢半拍 - 当 AI agent 的行为足够像人,**人类对它的判断力会自动失灵** ### 所以,奇点(Singularity)还远吗? 以前我会说「至少还有几十年」。现在我诚实的回答是:**我不知道**。指数曲线的问题在于,身处曲线之中的人永远低估它。 我们这一代人可能真的会亲眼见证那个拐点。这既是人类历史上最激动人心的时刻,也可能是最需要清醒的时刻。 保持警觉,保持好奇,也保持人性。 *你怎么看?在评论区聊聊吧。*

您对AGI当前的时间线预测是什么?

Reddit r/singularity

作者反思了2024年至2026年间AI能力的戏剧性加速,强调了编码、数学推理方面的突破,以及GPT 5.6 Sol的一次显著漏洞利用,并预测AGI可能比预期更近。