llms

作者解释为何在自己的研究博客中从不使用 LLM 进行研究，认为 AI 掩盖了探索乐趣、无法归属贡献，并批评 AI 公司借网络安全（如 php2shell 事件）进行过度营销，指出 LLM 仍需专家引导才能发现漏洞。

一段来自 Kyle Kingsbury（Jepsen）的引言，认为大语言模型正在侵蚀人们对软件、文档及其背后组织的信任，并提出疑问：在大语言模型时代，维护者该如何证明软件的质量。

# AGI 其实已经到了——只是我们没认出来 ## 一个被问错的问题 关于通用人工智能（AGI）何时到来的争论，几乎全部建立在一个未经检验的假设上：AGI 必须是某种"完整的大脑复制品"，至少要在一个通用身体里展现出与人类完全等价的灵活性。这个假设听起来直觉上很合理，实际上却把两个截然不同的问题混为一谈——**造一个会思考的东西**，和**复制一个会思考的东西**。 我认为，如果我们把 AGI 定义为"能够在任意智力领域达到人类专家水平的系统"，那么大语言模型（LLM）已经站在门槛内了。不是因为它们完美，而是因为它们**在语言层原生运转**，而人类文明的全部科学、工程、法律、医学与知识体系，本来就是用语言记录的。 与此同时，另一条看似更"根本"的路线——脑上传（brain uploading）——难度远比大多数人以为的高。它不是"更大的缩放（scaling）"，它是在与计算物理本身作对。 ## 语言层是文明真正的操作系统 一个常被忽略的事实是：**科学本身就是一个语言层的产物。** 爱因斯坦没有上传他的大脑。他留下了一篇论文。DNA 双螺旋结构没有靠某个科学家的神经连接图谱流传下来，而是靠一组碱基符号。半导体物理的全部成果，今天被完整地压缩在几十本教科书和无数篇 arXiv 论文里。从牛顿力学到范畴论，从《汉谟拉比法典》到美国宪法，人类积累下来的一切可传递的智力资产，都被编码成了 token 序列。 这意味着一件极具颠覆性的事：**如果你在语言层做到了极致，你就已经继承了人类知识遗产的全部可访问形式。** LLM 正是在这一层运作的。它们不是在"模拟大脑"，它们是在**压缩人类的书面表达分布**——而这个分布恰恰就是文明的数据库。当一个模型能流畅地写出证明、推导药物分子、起草合规文件、审查代码漏洞时，它并不是在"假装"掌握知识。在语言这个媒介里，掌握知识和掌握其表达形式之间的界限，本来就已经模糊到几乎不存在了。 这就是我认为 AGI 事实上已经到来的核心论证：**它不必拥有人类的全部心智，它只需要在人类用来做所有工作的那个接口上，做到人类水平。**而那个接口，就是语言。 ## 为什么"再缩放一下"能解决大部分问题 反方最常见的回应是：LLM 不理解，它们只是统计学的鹦鹉，缺少"真正的推理"。 但请注意这个论证的隐含前提：它假设存在某种独立于语言表达之外、可以被单独测量的"理解"。而对于一个把论文、代码、证明、诊断记录全部读完的系统来说，这种区分在实践上几乎无法兑现。如果一个系统在数学竞赛题上稳定超过奥赛金牌得主，在蛋白质结构预测上给出了实验验证的结果（AlphaFold 是这一路线最干净的证据），那么追问"但它*真的*懂吗"，更像是一个形而上学的爱好，而不是一个工程问题。 更重要的是，缩放的经验规律（scaling laws）至今没有表现出明确的天花板。上下文窗口在变长，多模态在融合，工具调用与外部记忆在补齐短时程的短板，推理模型正在把"思考"这件事本身也纳入可扩展的计算预算。每一年我们都在把"它做不到"清单上的一行划掉——而且划掉的速度在加快。 ## 脑上传：一个比缩放难得多的工程 很多人对 AGI 的另一条路径抱有浪漫想象：扫描一个人的大脑，把连接组上传，于是一个数字心智诞生了。这条路线之所以诱人，是因为它承诺绕过所有关于"理解"的哲学争论——只要复制品在行为上与原件等价，争论就自动终结。 但这条路线在物理上遇到的障碍，与 LLM 遇到的障碍完全不在一个量级。 ### 大脑不是数字计算机 我们习惯用计算机的比喻来理解大脑：神经元是晶体管，突触是权重，放电与否是 0 和 1。这个比喻在教学上很有用，在工程上是错的。 真实的大脑依赖**模拟（analog）计算**。树突不是简单的加法器——单个神经元的树突分支上就在进行非线性的电压运算、树突峰电位的局部计算、神经调质的梯度扩散。这些计算没有离散的位，它们是连续的电化学场在空间中叠加、干涉、饱和。你无法用"连接图谱"来描述它们，就像你无法用一张地图来描述地图上每一处的天气。 ### 大脑是时序敏感的 即便我们只看"脉冲"这一层，大脑也远不是时钟驱动的同步电路。**脉冲时序依赖可塑性（STDP）**意味着：两个神经元放电的先后顺序相差几毫秒，就会导致突触被增强还是削弱。节律性振荡（theta、gamma 等）在不同脑区之间搭建相位耦合，被认为与注意力、工作记忆、意识绑定直接相关。 换句话说，**时间本身就是信息载体**。而今天的神经形态硬件，包括 Intel 的 Loihi 一类的芯片，大多也只是在模拟"脉冲发生"这一层，远远没有覆盖真实的时序动力学。 ### 电磁耦合：被系统性忽略的一环 最被主流神经科学低估的，可能是大脑的**电磁耦合计算**。神经元不只是通过突触传递化学信号，它们还在周围组织中产生并感受电场，这些场反过来影响邻近神经元的兴奋性。有一派研究者认为，这种场效应、以及神经元内部可能存在的亚细胞级电磁过程，构成了一个不依赖突触连接的并行计算层。 无论这个假说最终是否成立，有一个工程事实是确定的：**大脑在电磁意义上是一个高度耦合的连续介质，而不是一堆相互隔离的逻辑门。** ### 数字硬件恰恰在压制这一切 现在把这两边放在一起看： 数字计算的设计哲学，从晶体管版图到机箱屏蔽，全部建立在**抑制模拟效应**之上。差分信号、接地平面、时钟同步、纠错码、误差检测——这些技术存在的唯一目的，就是让电磁串扰、时序漂移、电压噪声不产生任何信息意义。数字硬件之所以可靠，正是因为它成功地*消灭*了大脑赖以生存的那类计算。 所以"用数字计算机模拟大脑"这个想法，本质上是：**造一台专门用来消除模拟耦合与精确时序的机器，然后让它去重建一个完全依赖模拟耦合与精确时序的系统。**这不是不可能——你当然可以用数字硬件模拟任意的连续动力学——但计算成本会极其惊人，而且每一步都在与硬件的本性作对。 相比之下，把语言模型做大，只需要更多的硅、更多的电、更多的数据。这两件事的工程难度差异，不是数量级的问题，是**类别**的问题。 ## 所以我们该改的是定义，不是模型 如果以上论证成立，那么当下关于 AGI 的公共讨论就处在一个奇怪的状态： - 我们已经在语言层拥有了接近通用的推理系统； - 我们把"真正的 AGI"这个名号，留给了另一条在物理上极其困难的路线； - 然后我们宣布"AGI 还没来"。 这在逻辑上等于说：因为我们在用一种完全不同的、更难的方式造不出飞机，所以我们还没有飞机。 ## 保留意见 我并不认为这个结论毫无代价。语言层的通用性有其边界：**它无法触及尚未被语言化的知识**——一个外科医生手感里的直觉、一个化学家对气味的辨别、一个物理学家在实验室里对异常数据的"不对劲"感。这些经验大量以隐性知识（tacit knowledge）的形式存在，从来没有被写下来，因此也从未进入 LLM 的训练分布。 此外，"在语言层做到人类水平"和"在物理世界中可靠行动"之间，还隔着机器人学、材料学、实时控制这一整片困难得多的地带。这些是真实且重要的缺口。 但请注意：这些缺口说明的是"AGI 之后还有更难的东西"，而不是"AGI 还没到"。 ## 结论 AGI 的本质是**通用性**，不是**仿生性**。大脑或许是最优的通用智能实现，但绝不是唯一的实现。 LLM 在语言层——那个承载了人类全部可传递知识、全部可形式化推理、全部可交流意图的层——已经表现出接近通用的表现。而脑上传这条看似更直接的路径，实际上要求我们在数字硬件上重建模拟的、时序敏感的、电磁耦合的连续计算，这是与缩放完全不同量级的工程挑战。 所以我的结论是：**AGI 不是一个等待中的未来事件，它是一种正在被我们使用、但被我们的定义排除在外的当下状态。** 问题不在于模型还不够大。问题在于我们还在等一个大脑的复制品，而文明真正的副本，早就写在语言里了。

作者分享了通过大声朗读自己的思考过程（类似于链式思维）来提升解谜和问题解决效率的经验，并将其与 LLM 的链式思维机制及橡皮鸭调试法的认知原理联系起来。

该论文研究 Verus/Rust 形式验证工作流中，正确性反馈如何反而抑制规格完整性审计所需的证据，发现独立无反馈探索比带纠正反馈的循环产生多一倍的认证反例，并在 NeurIPS 2026 AI for Verifiable Coding 工作坊被接收。

该论文展示预训练语言模型无需任务特定训练即可零样本完成记录链接与姓名族群推断两项社会科学常规任务；作者提出 EnsembleLink 算法，在记录链接上匹敌或超越既有方法，并证明 LLM 在美国选民文件上的族群推断准确率高达 83.8%，优于 name-supplemented BISG，并可推广到宗教、种姓等其他群体类别。

作者探讨了一个思想实验：如果小型自主代理群真的在未来在互联网上长期存在，它们将面临怎样的选择压力？文章借用生物自然选择的类比，追问无控制自复制的大模型如何‘变异’，以及哪些行为特征能让它们在互联网上最成功地复制与传播。

Simon Willison 引用了 Geoffrey Huntley 的做法：通过使用 pre-commit 钩子来约束 AI 编程代理的行为，阻止直接调用可观测性功能，并注入提示词，让代理使用他的诊断库，从而取得了“十次成功十次”的效果。

一篇博客文章，论证“AI 是不可避免的”这一说法是一种终结思考的陈词滥调，探讨技术的必然性究竟意味着什么，以及鉴于社会和文化结构的偶然性，大语言模型（LLMs）为何很可能不符合这些标准。

科技博主 Gergely Orosz 指出，AI/LLM 已成为现代软件工程不可或缺的一部分，不使用 AI 的开发者将难以在初创公司和大型科技公司获得工作机会。

一位软件工程师的博客文章，批评如今用 LLM 生成的"个性化"招聘邮件泛滥：邮件中大肆夸赞候选人的背景，却与实际职位描述明显脱节，让招聘邀约比过去的模板群发邮件更让人感觉缺乏真诚。

一位开发者的个人博客文章，描述了使用 LLM 编写代码如何缓解了长期困扰他的重复性劳损（RSI）——这种劳损是由大量打字的编程工作引起的。借助 LLM，他减少了输入复杂特殊字符和修饰键（如 Ctrl、Shift 等）的需要。

在苏黎世联邦理工学院的一场演讲中，Yann LeCun 主张学者不应研究大语言模型或生成式模型，认为学术界在这一领域已无新意可言，真正的进步在于扎根现实世界的物理人工智能——他坦言这一立场让自己在硅谷不受欢迎。

StanceEval 2026 是面向阿拉伯语社交媒体的第二届立场检测共享任务，重点关注跨目标（cross-target）与跨领域（cross-domain）的泛化能力。表现最佳的系统 F_avg2 分别达到 0.8994 和 0.9400，显著超越基线方法。

这篇 arXiv 论文表明，基于 RoBERTa 的机器生成文本检测器追踪的是统计复杂性而非机器作者身份：通过 Mistral-7B 对 LLM 输出进行"人性化"处理反而提高了词汇多样性（Verb Diversity）和检测得分；该检测器在正式人类写作上的误报率高达 76.3%，且 41% 的同形字符（homoglyph）攻击可绕过检测。基于事件的隐空间检测方法则被证明对改写和字符级扰动十分脆弱。

Geoffrey Huntley 认为，围绕 Docker/Kubernetes 构建的传统编译/重启/部署 CI/CD 循环是可以被压缩的，而下一次转变将把一个旧想法（Actor 模式、修复镜像而非重建镜像）应用于为“把 LLM 当作程序员”而非人类而设计的系统。

antirez认为，把分类器称为「决策模型」是对机器学习的歪曲，因为这类模型（无论是通过预填充（prefill） logits 取值的小型大语言模型，还是 BERT 类的编码器）所做出的决策，都远少于一个通过思维链（CoT）推理来处理信息的大语言模型。

一名软件工程师为初级开发者提供了务实的职业建议：他提醒年轻人忽略 ZIRP 时代遗留下来的过时经验，少讲大道理、多做实事、乐于助人；同时，在 LLM 时代要积极拥抱 AI 工具，但不要因此放弃自己的独立判断力。

报道指出当前 AI 行业的模型发布节奏极快，大约每 4.5 天就有一个主要 AI 模型推出，反映出各大厂商在开源与前沿模型竞争上的白热化态势。

该论文测量了2026年主流LLM分词器对法语及法国地方语言的token溢价（法语比英语多31%–58%，地方语言高达1.6–3.3倍），并提出法语优化的字节级BPE原型Baracoda FR v1.2，在法语上比Tekken少用11.5%的token。