complexity

标签

Cards List
#complexity

去相干陷阱:当 AI 垃圾内容在无尽的噪声之海中淹没信号

Lobsters Hottest ↗ · 2026-10-16 缓存

一篇提出「去相干(decoherence)」概念的评论文章,论述 AI 大量生成的冗余内容如何让系统的技术债指数级膨胀,并认为这既排除了智能爆炸的可能,也带来了「去相干崩溃」的新风险。

0 人收藏 0 人点赞
#complexity

@snowboat84: 曾经有一本横扫软件工程领域的经典之作,名叫 *The Mythical Man-Month*(《人月神话》)。它揭示了……

X AI KOLs Timeline ↗ · 2026-10-06 缓存

# 当 AI 能一夜之间生成可运行代码——重读 Brooks 的《人月神话》 *一篇在 AI 时代重新审视经典之作的反思文章:AI 或许能迅速生成可运行的代码,但真正的瓶颈,正在从「人的协调」转移到「大规模软件系统的规格定义与验证」。* --- ## 一、一本被反复引用、却很少被真正消化的书 1975 年,Frederick P. Brooks 发表了《The Mythical Man-Month》,其中最著名的论断莫过于 Brooks's Law:**向一个已经延期的项目增加人手,只会让它更加延期**。这句话几乎出现在每一场工程管理的讨论里,也几乎总是被当作一个关于「沟通开销随人数平方增长」的注脚。 但如果今天重新翻开这本书,你会发现 Brooks 谈的其实远不止于此。他谈论的是**概念完整性(conceptual integrity)**,是一个软件系统应该像一部小说那样拥有「一个头脑、一种愿景」;他谈论的是外科手术团队式的组织方式;他谈论的是「第二个系统效应」,以及为什么最危险的系统往往不是第一个,而是紧随其后的那个。 在 AI 能够生成可运行代码的今天,这些观点不仅没有过时,反而变得更难被绕过。 ## 二、AI 确实改变了什么 必须诚实地承认 AI 带来的变化。过去需要一名工程师数周才能完成的胶水代码、数据清洗脚本、测试桩和样板工程,现在往往在几分钟内就有了第一版可运行的结果。软件的**产出速度**——严格来说,是「初版代码」的产出速度——已经不再是瓶颈。 这意味着 Brooks 时代里许多与「人力吞吐量」有关的论断,在表层上被削弱了。你不再需要为「缺人写代码」而焦虑,也不再需要在招聘、外包和多团队并行之间反复权衡。 然而,代码只是软件的表层形态。软件真正的本质,是**在一个约束条件下解决问题,并且长期可靠地解决它**。当表层的产出速度被无限拉高,瓶颈只会向更深处移动。 ## 三、真正的瓶颈一:规格(Specification) Brooks 在书中反复强调:软件开发最大的困难不是实现,而是**决定该做什么**。他引用了 Dijkstra 的名言,并指出软件工程师的工作可以粗略分为「想清楚」和「写出来」两部分——而前者才是稀缺且昂贵的。 AI 加速了后者,却丝毫没有降低前者。 一个大型软件系统里最难的部分从来不是「把一个函数写对」,而是: - **需求的边界在哪里**?哪些约束是真实的,哪些只是历史遗留? - **各个组件之间的契约如何定义**?当两个子系统各自演化时,谁有权决定语义? - **性能、可靠性、安全性的隐含假设是什么**?这些假设是否被所有人共同理解? 在这些层面,AI 能够做的是把你已经模糊想清楚的东西快速具体化——但它同样擅长把「你以为想清楚了、其实并没有」的东西写成一份看起来无懈可击的文档。**它不降低规格的难度,它只是提高了错误规格的产出速度**。 ## 四、真正的瓶颈二:验证(Verification) 如果说规格是「决定做什么」,验证就是「确认做出来的东西确实是那个东西」。 这里存在一个容易被忽视的不对称:**生成代码的成本正在趋近于零,但验证代码的正确性并没有**。甚至在某些维度上,验证变得更难了——因为代码可能来自一个你自己无法逐行审阅其推理过程的来源。 在大规模系统中,验证从来不等于「单元测试通过」。它包括: - 不变式(invariants)在跨服务边界时是否仍然成立; - 数据迁移是否真的保持了语义一致性; - 故障场景下的行为是否符合预期; - 以及最困难的一点:**系统是否在它被要求解决的问题上长期有效**。 Brooks 把软件工程类比为医学:他要求工程师像医生一样,既尊重严谨的诊断流程,又保留人性化的判断。当验证的压力从「人力不足」转为「验证成本远高于生成成本」时,这个类比比以往任何时候都更贴切。 ## 五、人的协调问题并没有消失,只是换了一副面孔 需要特别澄清的是:Brooks's Law 并没有失效。它只是换了一个表现形式。 AI 可以同时给多个团队、多个代码库、多个产品线生成方案。当这些方案彼此之间存在隐含的、未被明示的冲突时,协调成本会以平方级增长——与 Brooks 在 1975 年描述的现象完全一致,只是冲突发生的层级从「谁去写这段代码」上移到了「谁来决定系统的行为契约」。 概念完整性仍然是稀缺品。AI 能让每个团队都「跑得很快」,但它无法替整个组织决定:**这个系统在五年后应该长成什么样**。 ## 六、一些可能的回应 如果要从这篇反思中提炼出实践层面的建议,大概会是这几条: 1. **把规格当作一等公民**。在引入 AI 加速之前,先花大力气把约束、不变式和契约写清楚。AI 是放大器,它会同样地放大精确与含混。 2. **把验证能力当作投资**,而不是成本。当生成变得廉价,能够「证明某件事是对的」的那部分能力就是核心竞争力。 3. **保护概念完整性**。仍然需要少数人、以接近外科手术团队的方式,对系统的整体形态保持持续的、集中的关注。 4. **重新理解 Brooks's Law**。它讨论的从来不只是沟通开销,而是**决策集中化与规模化之间的张力**——这一点在多 agent 并行生成的场景下只会更加尖锐。 ## 七、结语 五十年后,Brooks 仍在描述着软件工程的真实形状。AI 没有推翻这本书,它只是把书中的问题从「人手够不够」推进到了「我们知道到底要什么、以及怎么证明我们做到了」。 生成会越来越快,这几乎可以确定。但软件工程的天花板,始终悬在规格与验证那一侧——而那里,仍然需要清醒的人类判断。 --- *本文为重新阅读 Frederick P. Brooks《The Mythical Man-Month》后的个人反思,不构成对任何特定 AI 编码工具的评价。*

0 人收藏 0 人点赞
#complexity

如果意识是一个光谱,而不是开/关状态?为什么AI不能以某种形式具有意识?

Reddit r/singularity ↗ · 2026-09-17

文章提出,意识是一个基于活跃互联复杂性的光谱,并推测了这对像ChatGPT这样的AI系统的影响。

0 人收藏 0 人点赞
#complexity

软件令人疯狂

Hacker News Top ↗ · 2026-09-10 缓存

本文探讨了软件开发的独特特性,如其速度、灵活性和隐性成本,如何引发开发者和利益相关者的精神压力与非理性行为。

0 人收藏 0 人点赞
#complexity

@arpit_bhayani: 工程师们正在逐渐失去对系统的掌控力,这令人担忧。不仅是底层代码,还包括端到端的流程…

X AI KOLs Timeline ↗ · 2026-09-07 缓存

由于快速交付和高阶抽象,工程师们正在失去对系统的掌控。这些因素加速了正常路径,但延长了故障路径,且缺乏充分讨论。

0 人收藏 0 人点赞
#complexity

Zach Kehs 如是说

Simon Willison's Blog ↗ · 2026-09-06 缓存

Zach Kehs 指出,与实体建筑不同,软件不存在结构天花板,总能通过增加间接层和降低性能来进一步劣化。

0 人收藏 0 人点赞
#complexity

协调逆风:组织如何像黏菌一样

Hacker News Top ↗ · 2026-08-30

文章探讨了组织如何面临类似于黏菌的协调挑战,从生物系统中汲取隐喻,以理解复杂环境中的适应性行为。

0 人收藏 0 人点赞
#complexity

Sloc Cloc and Code 4.0 (scc) - 找出最需要关注的文件

Lobsters Hottest ↗ · 2026-08-24 缓存

本文宣布了 Sloc Cloc and Code (scc) 4.0.0 版本的发布,其中包含新的热点分析功能,基于复杂度和提交历史来识别需要关注的代码文件。

0 人收藏 0 人点赞
#complexity

控制与复杂性:系统设计中的张力

Lobsters Hottest ↗ · 2026-08-24 缓存

本文探讨了系统设计中控制与复杂性的张力,特别是在软件开发中采用LLM的背景下,对比了分析分解与复杂系统方法。

0 人收藏 0 人点赞
#complexity

AI代理是否带来了比它们消除的更多复杂性?

Reddit r/AI_Agents ↗ · 2026-08-18

这篇文章质疑AI代理的增多是否导致管理和维护的复杂性增加,可能超过其带来的好处。

0 人收藏 0 人点赞
#complexity

SSOG-Attention:可分离高斯和作为亚二次且可扩展的SDPA替代方案。[R]

Reddit r/MachineLearning ↗ · 2026-08-16

SSOG-Attention 引入了一种新的注意力机制,使用可分离高斯和来实现亚二次复杂性,在性能上优于或匹配SDPA,并具有更快的收敛速度和更高的效率。

0 人收藏 0 人点赞
#complexity

引用 Florian Herrengt

Simon Willison's Blog ↗ · 2026-08-12 缓存

Florian Herrengt 的一句引言,关于 AI 生成的代码如何导致项目复杂混乱,无人理解系统,突显软件工程中的风险。

0 人收藏 0 人点赞
#complexity

为什么设置最简单的自动化仍然感觉需要计算机科学学位?

Reddit r/ArtificialInteligence ↗ · 2026-08-10

一篇评论质疑为什么简单的自动化仍需专业技术知识,指出了自动化工具在易用性方面的差距。

0 人收藏 0 人点赞
#complexity

超立方体、超平面与原子概念学习中的约束诱导复杂度坍缩

arXiv cs.AI ↗ · 2026-08-05 缓存

这篇理论论文通过超立方体和超平面的几何来研究原子概念学习,表明在除全对角线之外的大多数超平面上,复杂度会一致坍缩,而在全对角线上复杂度则无界增长。文中提供了超平面行为的分类学,以及完整的二元和三元案例分析。

0 人收藏 0 人点赞
#complexity

Carl 的必读书单

Hacker News Top ↗ · 2026-08-01 缓存

Carl Kolon 作为一名工程领导者,分享了他精心整理的软件工程文章“必读清单”,涵盖编码实践、平台设计和前端开发,并附有关于每篇文章重要性的个人注释。

0 人收藏 0 人点赞
#complexity

在线性和守卫存在规则下回答路径查询

arXiv cs.AI ↗ · 2026-07-28 缓存

本文研究了在具有线性和守卫存在规则的知识库上回答双向(合取)正则路径查询的复杂度,在数据和组合复杂度方面建立了完备性结果。

0 人收藏 0 人点赞
#complexity

通用智能需要什么:描述层级间不可约的约束条件

arXiv cs.AI ↗ · 2026-07-22 缓存

本文论证通用智能需要在多个描述层级上存在不可约的约束条件,并阐述了其对人工智能和认知科学领域的理论意义。

0 人收藏 0 人点赞
#complexity

@CliffordSosin: https://x.com/CliffordSosin/status/2078594661359194500

X AI KOLs Following ↗ · 2026-07-18 缓存

一篇评论文章认为,超级智能可能不是爆炸性涌现,而是渐进式发展,因为人工智能的局限不在于推理能力,而在于现实世界验证和复杂涌现系统的缓慢进程。

0 人收藏 0 人点赞
#complexity

模型路由很简单,直到它变得复杂。

Hugging Face Blog ↗ · 2026-07-15 缓存

IBM Research 解释了为什么智能体系统中的模型路由比简单的分类问题更复杂,指出缓存和隐藏因素(如实际工作负载成本和任务难度评估)使路由成为一个系统优化挑战。

0 人收藏 0 人点赞
#complexity

ExplAIner:一种用于解释分类模型的声明式查询语言

arXiv cs.AI ↗ · 2026-07-08 缓存

本文介绍了 ExplAIner,一种用于解释分类模型的声明式查询语言,它通过支持溯因、对比和基于最优性的解释,并在布尔电路上实现易处理的评估,从而解决了 FOIL 语言的局限性。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈