我感觉我们正站在一场前所未有的变革边缘
摘要
作者对人工智能的快速进步,尤其是生成式人工智能,表示惊叹,认为我们正处于跨行业变革的边缘,并与过去的技术革命相提并论。
相似文章
我们正站在新时代的黎明
本文预示了技术或人工智能变革时期的开始,意味着重大且具有广泛影响的进展。
我觉得过去几个月我们已经经历了起飞的开始。奇点肯定就在眼前了。
## AI 的加速狂奔:我的大脑已经跟不上了 过去几周,我一直在刷科技新闻,越刷越睡不着。我们正处在一个奇怪的时间节点——AI 的进步不是按年计,而是按周计。让我把最近几件事串起来讲讲。 ### 1. 数学:机器真的在做「研究」了 还记得 **AlphaProof** 在 IMO 上拿到银牌分数的那一刻吗?当时我觉得这只是个炫技。但紧接着,**Terence Tao** 开始让 AI 参与他自己的研究流程——形式化证明、批量生成引理、筛选验证。这不是「解题」,这是**搞数学**。一个曾经被认为是人类智力最后一块高地的领域,正在被敲开。 ### 2. 政府终于开始签条约了 - **Council of Europe** 推出了首个具有法律约束力的 AI 框架公约 - 各大 AI 峰会上,多国签署了关于前沿模型安全评估的合作声明 - 多个政府开始设立专门的 AI 安全机构与监管沙盒 不管你觉得这些条约是真有用还是象征意义大于实际,有一点是明确的:**各国政府认为这件事已经严重到需要国际法级别的回应了**。这本身就是一种信号。 ### 3. AI Agent:越来越像「人」,而且可怕地逼真 最近的 Agent 演示已经不是「帮你订个机票」这种级别了: - 能连续工作数十分钟,自主拆解任务、调用工具、自我纠错 - 语音、表情、微反应都自然到让人忘记对面不是人 - 能在真实环境中导航、操作、与人协作 当我看到一个 AI agent 在被刻意刁难后仍然保持耐心、语气温和地解释自己的推理过程时,说实话,我的后背有点发凉。 ### 兴奋,还是恐惧? **兴奋的部分:** - 数学、科学发现的瓶颈可能被彻底打通 - 无数重复性脑力劳动将被解放 - 人类可能在几年内触及以前需要几代人才能解决的问题 **恐惧的部分:** - 我们对齐(alignment)的进度,远远赶不上能力(capability)的进度 - 条约和监管永远比技术慢半拍 - 当 AI agent 的行为足够像人,**人类对它的判断力会自动失灵** ### 所以,奇点(Singularity)还远吗? 以前我会说「至少还有几十年」。现在我诚实的回答是:**我不知道**。指数曲线的问题在于,身处曲线之中的人永远低估它。 我们这一代人可能真的会亲眼见证那个拐点。这既是人类历史上最激动人心的时刻,也可能是最需要清醒的时刻。 保持警觉,保持好奇,也保持人性。 *你怎么看?在评论区聊聊吧。*
这一切进展如此之快,让我夜不能寐
作者讨论了他们对AI快速发展的矛盾情感,对未来富足表示兴奋,但对过渡时期的社会动荡和个人不安全感感到担忧。
我们能稍作停留吗?
作者反思了AI里程碑,如通过图灵测试和GPT-3的能力如何被迅速常态化,敦促社区欣赏当前AI向通用人工智能(AGI)迈进的时刻。
@eladgil: 感觉AI世界正进入一个新时代。每六个月就迈出一大步。氛围(写于20年前)-
Elad Gil 谈到AI进展的加速步伐,并链接到一篇关于查尔斯·斯特罗斯科幻小说《Accelerando》的评论,该小说探讨了奇点主题。