context-encoding

标签

Cards List
#context-encoding

@MaximeRivest: 当前的LLM架构很蠢(如果不算蠢,至少也是浪费)。以下三个包含4个上下文块的提示词:…

X AI KOLs Following · 5天前 缓存

一条推文批评了当前LLM架构因依赖顺序的上下文而导致浪费的重计算,并提出将上下文单元分开编码,以实现与顺序无关的高效缓存和生成。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈