structured-information

标签

Cards List
#structured-information

@a1zhang: 好的封装设计可以在信息结构化的前提下绕过极高的 token 成本。真的没必要每次都把……

X AI KOLs Following · 5天前 缓存

讨论如何通过结构化信息而非将所有内容都输入语言模型的上下文来降低 token 成本,并以一个 RLM 代理处理大量日志行但只使用少量活跃 token 为例。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈