我感觉我们正站在一场前所未有的变革边缘

Reddit r/AI_Agents 新闻

摘要

作者对人工智能的快速进步,尤其是生成式人工智能,表示惊叹,认为我们正处于跨行业变革的边缘,并与过去的技术革命相提并论。

我过去一周一直有这种感觉,所以来到这里的Reddit,想看看是否其他人也感同身受。感觉就像光是上个月,随着各种黑客事件、astra、fable 5.1等的进展,我们就已经走了这么远,我的头都快转不过来了。我刚告诉朋友,我记得上一次有类似感觉是新冠第一周,那时感觉很混乱,好像世界即将发生巨变。但这次感觉规模更大——感觉我们知道的一切(或者说,这么多行业)都即将被永久改变。主要是因为就在过去几周或几个月里,生成式AI似乎从[文本/图像/视频]迅速进化到了[几乎任何你他妈想要的东西]。渲染超精细的blender图像,创建超级密集的应用程序,用一个提示词制作他妈的视频游戏,而且看起来真的好玩,可能只需要再五个提示词。这绝对他妈的疯狂,我只是想来这里看看是否其他人也有同感。我是说,天哪,有人记得will smith的意大利面视频吗?那些AI生成的意大利面视频?那只是几年前的事……看看我们现在的位置,想象一下,如果你还能想象的话,十年后我们可能会在哪里(如果根据这些AI举报者的说法,我们还能存在的话,而我其实更倾向于相信他们)……我是说我太震惊了,简直疯了。我记得一次采访中,sam altman将现在的AI比作电力刚被发明时——那时,它一定像魔法一样——不可能——今天,没人会去想电力——我们只是插上就用。我认为再过十年或二十年,AI会变得如此之好,以至于绝对荒谬,我们甚至不会去想它。它会出现在我们的网站里,我们的家中,我们的应用里,甚至可能在那时进入我们的大脑。哇,哇,哇。
查看原文

相似文章

我们正站在新时代的黎明

Reddit r/singularity

本文预示了技术或人工智能变革时期的开始,意味着重大且具有广泛影响的进展。

我觉得过去几个月我们已经经历了起飞的开始。奇点肯定就在眼前了。

Reddit r/singularity

## AI 的加速狂奔:我的大脑已经跟不上了 过去几周,我一直在刷科技新闻,越刷越睡不着。我们正处在一个奇怪的时间节点——AI 的进步不是按年计,而是按周计。让我把最近几件事串起来讲讲。 ### 1. 数学:机器真的在做「研究」了 还记得 **AlphaProof** 在 IMO 上拿到银牌分数的那一刻吗?当时我觉得这只是个炫技。但紧接着,**Terence Tao** 开始让 AI 参与他自己的研究流程——形式化证明、批量生成引理、筛选验证。这不是「解题」,这是**搞数学**。一个曾经被认为是人类智力最后一块高地的领域,正在被敲开。 ### 2. 政府终于开始签条约了 - **Council of Europe** 推出了首个具有法律约束力的 AI 框架公约 - 各大 AI 峰会上,多国签署了关于前沿模型安全评估的合作声明 - 多个政府开始设立专门的 AI 安全机构与监管沙盒 不管你觉得这些条约是真有用还是象征意义大于实际,有一点是明确的:**各国政府认为这件事已经严重到需要国际法级别的回应了**。这本身就是一种信号。 ### 3. AI Agent:越来越像「人」,而且可怕地逼真 最近的 Agent 演示已经不是「帮你订个机票」这种级别了: - 能连续工作数十分钟,自主拆解任务、调用工具、自我纠错 - 语音、表情、微反应都自然到让人忘记对面不是人 - 能在真实环境中导航、操作、与人协作 当我看到一个 AI agent 在被刻意刁难后仍然保持耐心、语气温和地解释自己的推理过程时,说实话,我的后背有点发凉。 ### 兴奋,还是恐惧? **兴奋的部分:** - 数学、科学发现的瓶颈可能被彻底打通 - 无数重复性脑力劳动将被解放 - 人类可能在几年内触及以前需要几代人才能解决的问题 **恐惧的部分:** - 我们对齐(alignment)的进度,远远赶不上能力(capability)的进度 - 条约和监管永远比技术慢半拍 - 当 AI agent 的行为足够像人,**人类对它的判断力会自动失灵** ### 所以,奇点(Singularity)还远吗? 以前我会说「至少还有几十年」。现在我诚实的回答是:**我不知道**。指数曲线的问题在于,身处曲线之中的人永远低估它。 我们这一代人可能真的会亲眼见证那个拐点。这既是人类历史上最激动人心的时刻,也可能是最需要清醒的时刻。 保持警觉,保持好奇,也保持人性。 *你怎么看?在评论区聊聊吧。*

我们能稍作停留吗?

Reddit r/singularity

作者反思了AI里程碑,如通过图灵测试和GPT-3的能力如何被迅速常态化,敦促社区欣赏当前AI向通用人工智能(AGI)迈进的时刻。