大型语言模型们渴望“脊柱”

<p class="empty-line" style="height:16px; margin:0px !important;"></p> <p>今年早些时候，我处理了几个由AI生成的TLA+规范，注意到它们都在某处使用了“spine”这个词。后来，我又看到一些非TLA+的公共项目也用了“spine”，便开始好奇这是不是一种新的“LLM现象”（LLM主义？）。</p> <p>如果是，我们应该能看到使用“spine”的代码项目数量出现一个不连续的跃升。要彻底探究此事，正确的方法是通过<a href="https://www.gharchive.org/" target="_blank">GitHub archive</a>数据转储进行，但那会耗费无限时间，况且我现在有一份全职工作。因此，我决定使用<a href="https://buttondown.com/hillelwayne/archive/github-search-for-research-and-learning/" target="_blank">GitHub搜索</a>。我们无法按日期筛选代码片段，但可以筛选拉取请求，这似乎是一个足够好的代理指标。</p> <p>以下是每年标题中包含“spine”的公开拉取请求数量图表：</p> <p><img alt="一张柱状图，显示了每年包含'脊柱'的PR数量，从2020年（不到一千）到2026-09-01（超过17,000）" class="newsletter-image" src="https://assets.buttondown.email/images/ba001783-041b-4c65-998c-4d8ff9bbc3e9.png?w=960&amp;fit=max" /></p> <p>我将2026年的数据截止到2026-09-01，这意味着今年前九个月的“spine”PR数量是整个2025年的20倍。现在，这<em>可能</em>是因为GitHub在过去一年里规模增长巨大。也许20倍的增长是由于拉取请求总量增加了20倍所致。我们可以通过将其与<a href="https://github.com/search?q=created%3A2026-01-01..2026-09-01&amp;type=pullrequests" target="_blank">所有公开PR</a>进行比较来解释这一点：<sup id="fnref:gergely"><a class="footnote-ref" href="#fn:gergely">1</a></sup></p> <p><img alt="该时段内的所有拉取请求。2020年为4000万，2026年为1.1亿" class="newsletter-image" src="https://assets.buttondown.email/images/57660b2f-237a-4c96-8717-ebb00f7b90a6.png?w=960&amp;fit=max" /></p> <p>如果“spine”不是一种LLM现象，我们预期的增长应仅在1.5倍左右，而不是20倍。另一个可能的混淆因素是，大型语言模型<em>并不</em>喜欢“spine”这个词，而PR Georg向一个脊椎治疗相关的仓库提交了15,000次更改。我将通过忽略这个问题来处理它。</p> <p>我们能找出具体是哪些模型痴迷于“脊柱”吗？让我们尝试按月份细分变化：</p> <p><img alt="2026年按月份统计的“脊柱”使用量。从一月到四月每月增长约50%，四月-五月和五月-六月则翻倍" class="newsletter-image" src="https://assets.buttondown.email/images/50980e1b-ae21-43bb-8144-15feea78d543.png?w=960&amp;fit=max" /></p> <p>查看<a href="https://llmtimeline.org/" target="_blank">LLM时间线</a>，5月发布的唯一广泛使用的模型是Opus 4.8，它在月底才发布，无法解释这次飙升。GPT 5.5在4月发布，这可能是原因。但我并不信服。首先，“脊柱”的计数在四月之前每月仍增长1.5倍，而且我<em>肯定</em>记得早在二月就见过“spine”。另外，我抽查发现，许多使用“spine”的PR是由Claude或Cursor共同编写的。所以我认为这并非特定于某个LLM，不过如果能说服我，我也会改变看法。</p> <p class="empty-line" style="height:16px; margin:0px !important;"></p> <h2>其他大型语言模型喜欢的词汇</h2> <p><a href="https://www.linkedin.com/feed/update/urn:li:activity:7503097291285700609/" target="_blank"><img alt="LinkedIn帖子，内容为'制作一个名为比尔·盖茨的Claude插件，每当Claude说“gate”时就往发誓罐里放一美元。" class="newsletter-image" src="https://assets.buttondown.email/images/8a11547c-4d23-4d71-9447-62b3ebcb2c50.png?w=960&amp;fit=max" /></a></p> <p><a href="https://graceful.dev/" target="_blank">Avdi</a>没有疯，大型语言模型们确实痴迷于“gate”：</p> <p><img alt="今年有70万个gate" class="newsletter-image" src="https://assets.buttondown.email/images/2e44c095-35bd-4fd1-970f-878a815e30f2.png?w=960&amp;fit=max" /></p> <p>顺便说一句，这相当于每300个PR中就有一个。如果我们包含<a href="https://github.com/search?q=created%3A2026-01-01..2026-09-01+gate&amp;type=pullrequests" target="_blank">“gate”出现在任何位置的PR</a>，这个数字会跃升至<strong>每26个PR中有一个</strong>。</p> <p>我只看标题的原因是，如果我们包含PR正文，在搜索“ladder”时会出现一个伪影。2022年，超过30,000个PR使用了“ladder”这个词。查看<a href="https://github.com/search?q=created%3A2022-01-01..2023-01-01+ladder&amp;type=pullrequests&amp;p=100" target="_blank">一个样本</a>，几乎全部都是由于boto3的自动升级，其升级描述中包含“ABR package ladders”。发现这一点时我感觉很棒，直到出于好奇，我让一个全新环境的LLM“找出飙升的原因”。它更快地得出了相同的答案😢</p> <p>总之，仅查看PR标题可以消除“ladder”的伪影：</p> <p><img alt="与2025年相比增长了10倍" class="newsletter-image" src="https://assets.buttondown.email/images/e9e9947e-b451-4b69-b9d2-8cd1c5b94212.png?w=960&amp;fit=max" /></p> <p>我本想开个“LLM爱梯子”的玩笑，但后来发现我记错了，那个梗是“我爱灯”。我查了查，它们对“灯”的喜爱并不超过普通开发者。</p> <p>不过，它们确实喜欢“lane”：</p> <p><img alt="‘lane’的使用量比2025年增长了30倍" class="newsletter-image" src="https://assets.buttondown.email/images/d00af4ab-1158-4842-a154-c7623736cd4e.png?w=960&amp;fit=max" /></p> <p>也许这可以用“CPU lanes（通道）”来解释？我不知道。</p> <p>由于形式化验证是AI中的热门话题，我们当然看到更多讨论“proof（证明）”的PR：</p> <p><img alt="‘仅仅’增长了8倍" class="newsletter-image" src="https://assets.buttondown.email/images/6f8a38bc-aef2-4d6d-ae56-ecf88e018057.png?w=960&amp;fit=max" /></p> <p>这个增幅没那么大，可能是因为我们已经有“proof of work（工作量证明）”了。而<em>大幅</em>增长的是“truth（真理）”：</p> <p><img alt="‘truth’的使用量增长了15倍" class="newsletter-image" src="https://assets.buttondown.email/images/cafbc4d2-e06a-4c03-a452-765210da8b60.png?w=960&amp;fit=max" /></p> <p>最后，在我写这篇文章时，一位同事提到她看到“seam”这个词的频率高得多，所以我也检查了一下：</p> <p><img alt="另一个使用量增长20倍的词" class="newsletter-image" src="https://assets.buttondown.email/images/6ce0395d-519f-4623-a489-0889665c8120.png?w=960&amp;fit=max" /></p> <p>我认为，假以时日并采用更复杂的方法，应该能够找出哪些词是特定于某些大型语言模型的。不过，我没那么复杂！</p> <p><a href="https://gist.github.com/hwayne/ab2dce96bbb02b64c994295079fb8b7f" target="_blank">我把我“凭感觉编码”（vibecoded）出来做这个分析的工具放到了一个gist上</a>。去告诉我，我因为制作可复现的数据集有多酷，或者因为我犯了一个明显错误而搞砸了一切。</p> <hr /> <h1>分布式系统大会演讲直播观看</h1> <p>我的<a href="https://systemsdistributed.com/" target="_blank">分布式系统大会</a>演讲<em>《程序员的逻辑》</em><a href="https://www.youtube.com/watch?v=8Xrvyu5tV28" target="_blank">将于9月23日上线</a>！直播期间我会进行实时聊天，回答观众提问，并分享一些制作背景笔记。预计开始时间是中部时间上午11点/东部时间中午。</p> <div class="footnote"> <hr /> <ol> <li id="fn:gergely"> <p><a href="https://www.pragmaticengineer.com/" target="_blank">Gergely Orosz</a>拥有<a href="https://www.linkedin.com/posts/gergelyorosz_fresh-data-from-github-agent-generated-prs-activity-7505982106716655617-usGb?utm_source=share&amp;utm_medium=member_desktop&amp;rcm=ACoAAAy9lsoBQ05guk4kYdAe7n5jvTHpOGg-Kgo" target="_blank">内部数据</a>显示，GitHub今年由LLM生成的PR比去年多了7170万。我相信这</p> </li> </ol> </div>