@neil_xbt: 有人将383份散乱文件和100份会议记录整理成一个紧凑的维基,并将他们的Claude token使用量削减了……

X AI KOLs Timeline 工具

摘要

一种名为LLM Wiki模式的技术将原始文档编译成带有索引的结构化维基,通过仅在编译时一次性支付结构理解成本(而非每次查询),将Claude token使用量削减了95%。

有人将383份散乱文件和100份会议记录整理成一个紧凑的维基,并使他们的Claude token使用量减少了95%! 这个文件夹结构让Andrej Karpathy获得了1600万次浏览。 每个在每次查询时都处理原始文档的AI知识工具,都会在结构理解上浪费token——而这一成本在你上次提问时已经支付过了。 在一次典型查询中,大约75%的token用于理解结构,而非生成答案。LLM Wiki模式仅在编译时一次性支付这一成本,此后不再支付。 → raw文件夹:LLM读取但从不修改的不可变源文档 → wiki文件夹:LLM构建和维护的带交叉引用的结构化Markdown页面 → 索引文件:模型首先加载的轻量级映射,仅提取相关页面 → 75%的发现:LLM将75%的token用于结构理解而非答案——维基在首次构建后消除了这一成本 那些每次查询都重新处理自身文档的人,与那些以降低95%成本查询编译后维基的人之间的差距,并非技术复杂性。 不过是两个文件夹和三十分钟的设置。 收藏起来,以免丢失! 关注@neil_xbt,获取更多AI工程智慧,了解那个获得1600万次浏览的文件夹结构实际需要如何构建。
查看原文
查看缓存全文

缓存时间: 2026/06/25 09:15

有人将383个散乱文件和100场会议记录变成了一份紧凑的维基,并将Claude的Token使用量削减了95%!

这种文件夹结构获得了安德烈·卡帕西(Andrej Karpathy)1600万次的浏览量。

每个AI知识工具在每次查询时重新处理原始文档,都会在“结构理解”上消耗Token——而这些理解你上次提问时已经付过费了。

在典型查询中,大约75%的Token用于理解结构,而非生成答案。LLM Wiki模式只需编译时支付一次成本,此后永不再花。

→ raw文件夹:不可变的源文档,LLM读取但不修改 → wiki文件夹:LLM构建并维护的、带有交叉引用的结构化Markdown页面

→ index文件:模型先加载的轻量级地图,仅提取相关页面 → 75%的发现:LLM将75%的Token用于结构理解而非答案——Wiki在首次构建后彻底消除该成本

那些每次查询都重新处理自己文档的人,与那些查询已编译Wiki、成本降低95%的人之间的差距,并非技术复杂度。

而是两个文件夹加上30分钟的设置时间。

收藏此文以免丢失!

关注 @neil_xbt,获取更多AI工程情报,了解那个1600万浏览量的文件夹结构究竟如何构建。

相似文章