@mattpocockuk：100万token的上下文窗口是个不错的噱头，但你可能最好只用前15万token：

X AI KOLs Following 新闻
context-window large-language-models token-limits performance advice

摘要

Matt Pocock认为，100万token的上下文窗口是个噱头，并建议只用前15万token以获得更好效果。

100万token的上下文窗口是个不错的噱头 但你可能最好只用前15万token：https://t.co/hZkZExvFUt
查看原文
查看缓存全文

缓存时间: 2026/07/20 13:31

100万token的上下文窗口是一个不错的噱头

但或许你最好只使用前15万token：https://t.co/hZkZExvFUt

相似文章

不要轻信大上下文窗口

Hacker News Top

分析表明，LLM 声称的大上下文窗口具有误导性，因为有效注意力在约 10 万 token 时会下降。为开发者提供实用建议：通过使用工件（artifacts）和切换（handoffs）将会话保持在“智能区”。

Deepseek V4的百万上下文窗口：临界点

Reddit r/LocalLLaMA

对Deepseek V4在多个生产代码库上的百万token上下文窗口的详细评估显示，在150-250k token时性能最佳，超过300k后性能下降，推理模式下延迟显著。该模型在未知任务上表现出较高的幻觉率，生产环境中需要验证层。