本地优先软件更易扩展

Lobsters Hottest 新闻

摘要

本文认为,像 Harper 语法检查器这样的本地优先软件通过在设备上运行代码来避免扩展问题,使其能够在无需额外服务器成本的情况下轻松应对流量高峰。

<p><a href="https://lobste.rs/s/o1dzcn/local_first_software_is_easier_scale">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/06/11 21:37

# 本地优先的软件更容易扩展 来源:https://elijahpotter.dev/articles/local-first-software-is-easier-to-scale 熨斗山 这篇文章的标题多少有些误导性。本地优先的软件其实很少需要扩展。 Harper (https://writewithharper.com/) 最近流量和用户数都大幅增长。怎么做到的?因为它登上了 Hacker News 首页。如果你们还不知道我对这件事有多兴奋——我简直乐坏了。这相当于一次巨大的免费广告,至少如此。 我一直在思考在边缘端工作的奇妙好处。“边缘优先”只是人们描述 Harper 的众多术语之一,其他说法还有“本地优先”或干脆叫“在设备端”。这些术语背后都是一个简单的想法:我们把所有相关的语法检查代码,尽可能在物理上靠近用户的地方运行。这样一来,我们能比其他人更快地给出建议。为了达成目标,我们确保一切代码都经过良好优化且精简。Harper 几乎不占用什么 CPU 或内存。 在最近用户暴增的背景下,这意味着什么?想象一下,假设我们是 LanguageTool。我们的软件用 Java 编写,代码效率如何并不确定。由于软件需要大型服务器运行,我们准备了一定数量的服务器来应对预期的负载。 如果突然请求量翻倍(就像 Chrome 扩展曾经经历的那样),我们就会陷入大麻烦。为了避免请求延迟增加(甚至请求全部丢失),我们需要扩展运行服务器的数量。这不仅需要雇佣云架构专家,还得额外掏钱付给 AWS(或其他云服务商)月底的账单。 因为 Harper 在边缘端运行(无需服务器),我们完全不用担心这些。实际上,我是在第二天早上访问 Hacker News 时,才发现用户数激增的。一点问题都没有。 很多云服务提供商喜欢吹嘘自己能够随用户规模扩展。而我则喜欢吹嘘自己根本不需要扩展。

相似文章

本地编码智能体现在不错,但得盯着用

Reddit r/LocalLLaMA

作者认为本地编码智能体对小型任务很有用,但需要持续监督以防止错误和范围蔓延,描述了小修复、测试和手动差异检查的迭代工作流程。

专注打磨,推动本地模型

Armin Ronacher

本文批评了当前用于编程助手的本地AI模型现状,认为虽然可运行性有所改善,但由于缺少工具参数流式传输等功能以及推理引擎间的过度碎片化,用户体验大打折扣,远不如使用托管API那般精致。

本地 AI 应成为常态

Hacker News Top

本文指出,出于隐私和可靠性方面的顾虑,不应依赖云端托管的 AI API,并倡导采用设备端 AI 处理模式,文中以一款利用 Apple 本地模型 API 的原生 iOS 应用为例进行了说明。