当AI无所不能时,我们还能做什么?

Reddit r/AI_Agents 新闻

摘要

本文探讨了人类在AI辅助软件开发中的角色,强调在基础AI提示之外,人类专业知识至关重要,这在将Postgres用Rust重写以提升性能等项目以及作者自己的AI编排系统中得到了体现。

我看到人们在AI编码时为身份认同而挣扎。如果AI包揽了所有工作,他们还能做什么。我愿意说,而且我确实说,AI并非包揽一切,人类增添了大量价值。我当然如此。但现实是——AI几乎可以完成某些类型的所有工作。有一种说法,只是告诉AI你想要什么,然后就能得到结果。如果第一次不行,再试几次。这被称为氛围编码。它可能令人惊叹,也可能令人失望。但这并非AI辅助软件开发的全部。 这里有一个视频,展示了有人用AI将Postgres用Rust重写,很好地展示了即使所有编码都由AI完成,在开发真实世界复杂软件时人类需要付出多少努力——视频链接在评论中。我知道,这是Rust,可能会让一些人反感。我不在意Rust部分,只听这个人讲他们的观点。他们不是花钱让Claude将C代码转换为Rust——他们建立了一个针对创建数据库软件的软件工厂。用AI解决这个问题的前四次尝试都失败了。第五次才成功。这不是氛围编码。听这个人讲述他们如何在过程中改进Postgres。这不仅仅是逐bug移植。他们逐个子系统地改进Postgres。目前,他们的性能比普通Postgres高出300倍。这并非来自Rust,而是来自他们的设计改进,而这又源自于拥有丰富数据库软件创建经验并阅读了其他人类在相关领域论文的人类思维。他们不是“亲自编码”,但Claude也不是“亲自转换”。 我刚刚放弃了近一年的工作,因为我在试图用Astra将其打磨到完美时感到沮丧。我的编排器和自主AI员工一直很脆弱。Astra连续工作了近一周。有时连续24小时。但脆弱性依然存在。我叫停了。显然我疯了——做同样的事却期待不同结果。是我基于学到的教训以及我在解决当今大语言模型和工具链不存在的问题的事实,要求重新开始。我的编排器专注于剥夺大语言模型的控制权,让它们每一步都证明自己。每个阶段之间的合约和证明在处理不断出现的边缘情况后变得如此繁琐。因此,我与Astra合作,剥离出AI员工最简单的本质形式。一个员工需要什么,而不仅仅是通过提示Claude Code或Codex就能得到的。然后从那里构建起来。Astra在xHigh上根据我的输入提出了一个计划——花了大约一个小时。但计划仍然有缺陷。它没有理解我所指示的自主性等等。我的目标是“比GrokBot多一点,但少于Azure/AWS”。我是品味制定者、决策者,设定要构建什么并监督质量。我定义我们要瞄准什么,这远远超越“嘿,Claude,给我建一个AI员工工厂”。从我开始到现在,我自己已经是第四代或第五代了。我在每一代之间吸取教训。代理AI的能力也在变化和改进。 这两者也是AI扩大蛋糕而非取代人类的例子。没有1亿美元预算、几百名开发人员和三年时间来重写Postgres以提升300%性能。这是原本不会发生的工作,而不是从人类手中夺走的工作。我拥有的AI员工和我正在构建的平台也是如此。我没有员工需要取代。但有了AI,我就有了员工。不是每个人都需要达到这个水平。我只是希望鼓励那些因氛围编码而气馁的人,你那惊人的人类思维还有更多角色,远不止是投币买零食或点墨西哥卷饼。而且这很有趣且具有挑战性。
查看原文

相似文章

引用保罗·福特

Simon Willison's Blog

保罗·福特讨论了人工智能如何改变软件开发,但强调人类协作仍然至关重要,因为人工智能可能导致项目执行不善。

我们还能做什么工作?

Hacker News Top

ICML特邀演讲认为,AI是一种增强技术而非纯粹自动化,建议研究人员和开发者将重点转向评估、概念进步和领域技能。

关于人工智能

Lobsters Hottest

作者回顾了自己从在老旧Macintosh上手动输入代码到使用Copilot和Claude等AI辅助代码补全工具的历程,并得出结论:尽管AI行业存在问题,但技术本身是有用的。