如果LLM不再免费发布，本地LLM会怎样？

Reddit r/LocalLLaMA 新闻
local-llm open-source future-prediction knowledge-retrieval speculation

摘要

文章探讨了免费开源LLM发布可能停止的可能性，质疑现有模型能否通过先进的检索工具在知识陈旧的情况下保持有用性。

我在思考3-5年后可能的情况。正如其他人指出的，无法保证Qwen、Google等公司未来会继续发布模型。假设新LLM模型的供应在一夜之间枯竭。今天，即2026年5月，可用的模型就是我们所能得到的所有模型。那之后会怎样？当然，我们可以继续永久使用已有的模型，但它们的知识会变得越来越陈旧。如果我们构建*真正*好的知识检索工具，使LLM能够高效地检索更新的知识，那么今天的模型在5年后还能发挥作用吗？也就是说，2026年的模型显然不会知道2027年之后的事件，但随着工具的不断发展，也许这并不那么重要？这将受到硬件条件的限制，因为检索到的知识需要被摄入并添加到上下文中，但希望在大约5年内供应能满足需求，我们可以在家运行1M的上下文……也许吧？
查看原文

相似文章

当他们停止补贴LLM订阅时会发生什么？

Reddit r/LocalLLaMA

关于LLM订阅不可持续补贴的评论，预测随着风投资金收紧，价格将上涨，生态系统发生变化，并对开源模型的可用性和硬件成本表示担忧。

当前LLM成本为何不可持续

Hacker News Top

本文认为，当前高昂的LLM定价不可持续，原因是性能提升递减、开源权重模型兴起、专用AI芯片降低推理成本以及零切换成本，并预测随着竞争加剧，价格将大幅下降。