@danshipper: 我们是否正冲向一个人工智能能做人类一切事情的未来？Edwin Chen (@echen) 认为可能如此。他正…

X AI KOLs Following 新闻
ai-progress agi data-labeling ai-automation human-motivation ai-writing podcast

摘要

Dan Shipper 采访了 Surge AI 首席执行官 Edwin Chen，探讨人工智能的发展、通用人工智能的可能性，以及这对人类动机和独特性的影响。他们还讨论了人工智能解决新型数学问题的能力、优化参与度的陷阱，以及为什么人工智能在写作方面仍然存在困难。

我们是否正冲向一个人工智能能完成人类所有事情的未来？ Edwin Chen (@echen) 认为可能如此。他是 Surge AI 的首席执行官，该公司是前沿实验室最大的专家数据提供商之一。Surge 在没有外部融资的情况下收入超过 10 亿美元，这让 Edwin 对人工智能进步的速度有独特的见解。 我公开表示过，人工智能自动化实际上创造了更多人类工作。我也认为，尽管人工智能正以指数速度加速发展，但距离人工智能取代人类还远得很，可能比看起来要远得多。 这就是为什么我邀请 Edwin 参加 @every 的 AI & I 节目。我们探讨了不同的未来愿景，并讨论了人类是否会在宇宙中保持其独特地位，以及这种地位可能是什么。 我们讨论的内容包括： • 如果 Chen 所设想的未来成为现实，他担心这会让人们停止努力。一个答案来自科幻作家 Ted Chiang 的短篇小说：表现得好像你的决定很重要，即使你知道它们并不重要。 • 人工智能可能很快就能执行像“赢得菲尔兹奖”这样模糊的目标。但我认为，它不能做的是设定自己的目标——大语言模型没有内在动机，没有探索欲，也没有改变主意的能力。 • 为参与度而优化的模型并不能提供最有价值的用户体验。Edwin 花 20 轮用某个模型打磨一封毫无意义的电子邮件，直到 Claude 告诉他直接发送。 • 为什么人工智能在写作方面仍然表现不佳：模型学会了利用它们所训练的指标。Edwin 的 Hemingway Bench 发现模型在每个句子中都输出一个隐喻，这种过度索引导致糟糕的阅读体验。 对于任何关心在模型能力越来越强时我们人类的位置的人来说，这都是必看的内容。 观看下方视频！ 时间戳 1. 引言：00:00:54 2. Surge 作为“AGI 学校”：00:01:49 3. 人工智能解决新型数学问题的能力对人类成就的启示：00:04:46 4. 在人工智能能做一切的时代保持动力：00:07:29 5. 优化人工智能模型参与度的陷阱：00:14:34 6. 使用数据集训练与使用环境训练：00:29:34 7. 个人数据的价值：00:35:09 8. 为什么模型在写作方面表现不佳：00:39:40 9. Chen 的 AGI 时间线：00:42:00
查看原文
查看缓存全文

缓存时间: 2026/06/24 16:04

我们正冲向一个人工智能能够胜任人类所有工作的未来吗？

陈天（@echen）认为这很有可能。他是 Surge AI 的首席执行官，该公司是前沿实验室最大的专家数据提供商之一。Surge 在没有外部融资的情况下收入突破 10 亿美元，这让陈天对人工智能加速发展的速度有独特的见解。

我本人公开表示过，人工智能自动化实际上会创造更多人类工作。我也相信，尽管人工智能进步呈指数级加速，但距离人工智能取代人类，实际上比看起来要遥远得多。

这就是为什么我邀请陈天参加了 @every 的《AI & I》节目。我们围绕不同的未来愿景展开了讨论，并探讨了人类是否以及如何保持其在宇宙中的独特地位。

我们讨论的内容包括： • 如果陈天设想的未来成为现实，他担心这会让人们停止努力。一个可能的答案来自科幻作家特德·姜的短篇小说：表现得好像你的决定很重要，即使你知道它们并不重要。 • 人工智能可能很快就能实现像“赢得菲尔兹奖”这样模糊的目标。但我认为，它无法设定自己的目标——大语言模型没有内在动机，没有探索的驱动力，也没有改变主意的能力。 • 针对用户参与度优化的模型，无法提供最有价值的用户体验。陈天曾用一款模型来回打磨一封毫无意义的邮件多达 20 次，直到 Claude 告诉他直接发出去。 • 为什么人工智能仍然不擅长写作：模型会学会破解它们被训练的指标。陈天的《海明威基准》发现，模型会在每个句子中都输出一个比喻，这种过度使用反而让阅读体验变得糟糕。

对于任何关心随着模型能力增强人类将何去何从的人来说，这期节目不容错过。

请观看下方视频！

时间戳

  1. 引言：00:00:54
  2. Surge 作为“AGI 学校”：00:01:49
  3. AI 在新型数学方面的能力如何体现人类成就：00:04:46
  4. AI 能做一切时代的动机：00:07:29
  5. 为参与度优化 AI 模型的陷阱：00:14:34
  6. 使用数据集训练 vs 使用环境训练：00:29:34
  7. 个人数据的价值：00:35:09
  8. 为什么模型不擅长写作：00:39:40
  9. 陈天的 AGI 时间线：00:42:00

YouTube：https://youtube.com/watch?v=omX6wrLuX08&feature=youtu.be…

Spotify：https://open.spotify.com/episode/3u4hnxGB6tefawfPwdmZuI?si=uPUjqlEKRrG8GcyFFk-Hlw…

相似文章