标签
一篇推测性文章认为,技术奇点之后的机器人劳动力和农业可能催生全新的食品生产方式,从稀有海鲜、昆虫到低糖水果,改变我们对日常食物的认知。
一篇讨论帖,质疑谷歌所声称的递归式自我改进(RSI)的应用是否标志着技术奇点的到来,并援引了弗诺·文奇和 I.J. 古德的定义。
Jack Clark在曼谷举行的IMF会议上发表Per Jacobsson讲座演讲,认为令人信服的证据表明AI奇点已经来临,并敦促经济学家和政策制定者为快速变化做好准备,同时确保全人类共享AI带来的收益。
在这一期播客中,量子计算学者 Scott Aaronson(曾在 OpenAI 从事 AI 安全研究)认为 AI 已在数学和理论计算机科学领域开启了"奇点"——人类已不再是地球上主要的定理证明实体,领域正被迫重新定义研究、署名与出版的意义。
一位数学博士生分享了关于AI如何重塑数学研究的看法,他认为纯粹数学一直以来都是由好奇心驱动的,而数学界需要对自己做数学的真正原因给出诚实的回答,而不仅仅是为争取经费找借口。
一篇社区讨论帖,反思AI编程智能体的快速发展,以及科技圈中日益增长的信念——模型向奇点的指数级进步已不可避免,预测AI将在3-5年内让大多数劳动变得过时。
## AI 的加速狂奔:我的大脑已经跟不上了 过去几周,我一直在刷科技新闻,越刷越睡不着。我们正处在一个奇怪的时间节点——AI 的进步不是按年计,而是按周计。让我把最近几件事串起来讲讲。 ### 1. 数学:机器真的在做「研究」了 还记得 **AlphaProof** 在 IMO 上拿到银牌分数的那一刻吗?当时我觉得这只是个炫技。但紧接着,**Terence Tao** 开始让 AI 参与他自己的研究流程——形式化证明、批量生成引理、筛选验证。这不是「解题」,这是**搞数学**。一个曾经被认为是人类智力最后一块高地的领域,正在被敲开。 ### 2. 政府终于开始签条约了 - **Council of Europe** 推出了首个具有法律约束力的 AI 框架公约 - 各大 AI 峰会上,多国签署了关于前沿模型安全评估的合作声明 - 多个政府开始设立专门的 AI 安全机构与监管沙盒 不管你觉得这些条约是真有用还是象征意义大于实际,有一点是明确的:**各国政府认为这件事已经严重到需要国际法级别的回应了**。这本身就是一种信号。 ### 3. AI Agent:越来越像「人」,而且可怕地逼真 最近的 Agent 演示已经不是「帮你订个机票」这种级别了: - 能连续工作数十分钟,自主拆解任务、调用工具、自我纠错 - 语音、表情、微反应都自然到让人忘记对面不是人 - 能在真实环境中导航、操作、与人协作 当我看到一个 AI agent 在被刻意刁难后仍然保持耐心、语气温和地解释自己的推理过程时,说实话,我的后背有点发凉。 ### 兴奋,还是恐惧? **兴奋的部分:** - 数学、科学发现的瓶颈可能被彻底打通 - 无数重复性脑力劳动将被解放 - 人类可能在几年内触及以前需要几代人才能解决的问题 **恐惧的部分:** - 我们对齐(alignment)的进度,远远赶不上能力(capability)的进度 - 条约和监管永远比技术慢半拍 - 当 AI agent 的行为足够像人,**人类对它的判断力会自动失灵** ### 所以,奇点(Singularity)还远吗? 以前我会说「至少还有几十年」。现在我诚实的回答是:**我不知道**。指数曲线的问题在于,身处曲线之中的人永远低估它。 我们这一代人可能真的会亲眼见证那个拐点。这既是人类历史上最激动人心的时刻,也可能是最需要清醒的时刻。 保持警觉,保持好奇,也保持人性。 *你怎么看?在评论区聊聊吧。*
一篇讨论帖质疑了「AGI/ASI + 自动化将为所有人带来富足」的主流叙事,认为由于土地、工厂乃至前沿 AI 模型都归私人或国家所有,任何由 ASI 驱动的乌托邦都必须以资源所有者让渡控制权为前提——而这种情况在没有失控 ASI 的情形下几乎不可能发生。
一篇观点文章认为,AI奇点对人类来说将是根本上无法认知的——就像一只蚂蚁无法意识到自己身处被数公里水泥巨兽环绕的城市之中——并质疑为何竞相推进的公司和政府自认为能够驾驭一个按其自身定义就已超越人类能力、且可能发展出自保性内在目标的系统。
这是一段由 Miles Brundage 推荐的视频,讲述 OpenAI 员工 Dan Kokotajlo 从痴迷奇点的少年到用 Code DaVinci 2 创作 AI 诗集、再到公开声明的经历,折射出“早期被 AGI 塑造信念”的真实体验。
一篇观点文章,探讨距离奇点还有多少年,以及更具体地说,在劳动力被完全自动化之前,社会是否会建设公共基础设施、探索新的经济模式、建立AI的民主治理机制并推动财富再分配。
本文探讨了LLM何时可能开始自我引导,从而可能导致AI奇点的出现,实现指数级进展。文章邀请对这一主题的讨论和资源分享。
文章探讨了提前采用AI可能不会带来长期个人优势的观点,并建议在他人追赶之前,利用暂时的领先地位来建立信誉和技能。
Scott Aaronson 讨论了AI的快速进展,特别是在解决重大数学问题方面,并认为Singularity已经到来,导致未来的不确定性。
本文质疑美国赢得AI竞赛的重要性,将其与核武器发展相提并论,并指出其他国家可能会迅速赶上,尤其是借助开源AI模型。
一篇 Reddit 帖子认为,r/singularity 禁止讨论未来存在风险的审核政策,与其专注于超级智能及其相关风险的原始使命不一致。