context-window

标签

Cards List
#context-window

现在瓶颈是压缩与记忆(以及一点输入过滤)

Reddit r/singularity · 2天前

作者认为AI的瓶颈在于记忆和压缩,将LLMs与人类记忆效率进行比较,并建议改进工具集成以提高性能。

0 人收藏 0 人点赞
#context-window

Qwen3.8-Flash-Next 在 Strix Halo 上支持 100万上下文:解码速度达 38 tok/s,预填充仅需 18 分钟 (Halogen 0.12.0)

Reddit r/LocalLLaMA · 3天前

Halogen 版本 0.12.0 修复了高上下文深度下的性能下降问题,展示了在 AMD Ryzen AI Max+ 硬件上,Qwen3.8-Flash-Next 在 100万令牌上下文时的解码和预填充速度的提升。

0 人收藏 0 人点赞
#context-window

Qwen3.8-Omni-Flash:全感官体验。智能交付(阅读时间18分钟)

TLDR AI · 5天前

Qwen3.8-Omni-Flash是一款全模态AI模型,拥有百万token上下文窗口,支持文本、图像、音频和视频输入,性能与Gemini 3.8 Flash相当或更优,现已在Qianwen AI平台上线。

0 人收藏 0 人点赞
#context-window

@garrytan: Memorable找到了一种用嵌入代替更多令牌来优化记忆的方法,这是一种强大的记忆新方式。

X AI KOLs Timeline · 5天前 缓存

Memorable引入了一种使用嵌入代替令牌来优化AI代理记忆的方法,使得程序性记忆能够跨多个运行持续存在。

0 人收藏 0 人点赞
#context-window

在90个模拟日内对比记忆系统与“发送完整对话历史”:上下文令牌减少23-62倍,个人事实召回效果相当或更优,以及记忆明显失败的一个地方(数字和方法)

Reddit r/AI_Agents · 2026-09-16

本研究对比了AI代理中的记忆系统与完整对话历史在模拟天数内的表现,显示记忆系统可将上下文令牌减少23-62倍,在个人事实召回上效果相似或更好,但在数字数据和特定细节(如标识符)上表现不佳。

0 人收藏 0 人点赞
#context-window

@kplikethebird: TL;DR: Every正在寻找我们的下一位AI驱动型写手,我们为那个人准备了礼物!当我最初开始做…

X AI KOLs Following · 2026-09-13 缓存

Every正在招聘一名专注于AI的写手,负责管理他们的每日AI简报Context Window,使用AI技能如Why Now、Librarian和Crystal Ball进行编辑任务。

0 人收藏 0 人点赞
#context-window

AI持久记忆的漫漫长路

Reddit r/AI_Agents · 2026-09-11

本文讨论了开发具有持久记忆的AI系统面临的挑战,强调了需要超越像RAG这样的简单检索方法的有效状态管理。

0 人收藏 0 人点赞
#context-window

更大上下文窗口,更少过度校正:优化提示和批处理以实现最小编辑语法错误纠正

arXiv cs.CL · 2026-09-11 缓存

本文提出了一种优化的基于提示的最小编辑语法错误纠正方法,通过使用基于分类的指令、批处理和LLM辅助的提示优化,实现了最先进的结果。

0 人收藏 0 人点赞
#context-window

@lotte_verheyden: 如果你想改进你的智能体,追踪质量非常重要。这是我们应用内智能体追踪的一个例子…

X AI KOLs Timeline · 2026-09-09 缓存

这条推文讨论了通过显示顺序的LLM和工具调用而非嵌套它们来提高追踪质量,如何使调试和增强AI智能体更容易。

0 人收藏 0 人点赞
#context-window

@AdinaYakup: Ling-3.0-flash-VL 刚刚由 @inclusionAI 发布 🔥 - 原生图像 + 视频:理解 > 推理 > 行动 > 验证 - 124B/5.5B…

X AI KOLs Timeline · 2026-09-09 缓存

Ling-3.0-flash-VL 是 inclusionAI 新发布的多模态 AI 模型,具有原生图像和视频理解功能,采用 124B 参数架构,其中 5.5B 参数为活跃参数,支持 1M token 上下文,并采用 MIT 许可证。

0 人收藏 0 人点赞
#context-window

ChatGPT 的硬性对话长度限制是其最令人沮丧的用户体验问题之一——即使在专业版上

Reddit r/artificial · 2026-09-02

作者批评 ChatGPT 的硬性对话长度限制是一个令人沮丧的用户体验问题,即使对专业用户也会扰乱长期项目,并建议改进自动对话复合和检索以保持连续性。

0 人收藏 0 人点赞
#context-window

关系基础模型中的上下文窗口限制

arXiv cs.LG · 2026-09-02 缓存

本文评估了关系基础模型在高基数数据上的表现,揭示了上下文窗口限制导致性能下降,而通过简单的预聚合步骤可以缓解。

0 人收藏 0 人点赞
#context-window

新型模型:Spark-X2.5-4B, Spark-X2.5-1.7B

Reddit r/LocalLLaMA · 2026-09-01 缓存

推出Spark-X2.5-4B和Spark-X2.5-1.7B,这两款紧凑型通用语言模型原生支持百万token上下文,具备强大的编码与智能体能力,并提供广泛的硬件兼容性。

0 人收藏 0 人点赞
#context-window

llama.cpp 与 Qwen 3.8 配合使用的最佳设置

Reddit r/LocalLLaMA · 2026-08-30

本文提供了使用 Qwen 3.8 模型与 llama.cpp 的优化设置,重点介绍了在 RTX 3090 GPU 上令牌生成速度和上下文窗口管理的性能提升。

0 人收藏 0 人点赞
#context-window

在128 GB M5 Max上运行Qwen3.8-Flash-Next(79 GB,2-bit)以350K上下文持续3.5小时——速度与上下文深度权衡,100轮对话,一张图表

Reddit r/LocalLLaMA · 2026-08-30

本文报告了在MacBook Pro M5 Max上运行Qwen3.8-Flash-Next模型的情况,对100轮对话中速度与上下文深度进行基准测试,并深入分析性能及长上下文下角色混淆等问题。

0 人收藏 0 人点赞
#context-window

腾讯发布并开源Tencent Hy4预览版

Hacker News Top · 2026-08-29 缓存

腾讯发布了Tencent Hy4预览版,这是一个开源的大型语言模型,拥有7700亿参数和超过100万个token的上下文,专为编码、办公和科研等生产力任务设计。

0 人收藏 0 人点赞
#context-window

在生产环境中使用定时任务运行智能体一个月:四个出问题的点,无一归咎于模型

Reddit r/AI_Agents · 2026-08-29

作者分享了在生产环境中使用定时任务运行AI智能体一个月时遇到的四个机械故障,强调所有问题都源于设置问题,而非模型缺陷。

0 人收藏 0 人点赞
#context-window

让我们终结上下文窗口、RAG 和技能文件。

Reddit r/AI_Agents · 2026-08-29

作者描述了一个后端代理记忆系统,该系统输出嵌入状态参数而非自然语言块,使用GGUF适配器与qwen3模型。它采用双垂直图和密码进行实时记忆集成,有可能消除对上下文窗口、RAG和工具模式的需求。

0 人收藏 0 人点赞
#context-window

我们如何防止44MB Excel文件炸毁AI代理的上下文窗口

Reddit r/AI_Agents · 2026-08-29

本文介绍了为AI代理构建流式工具以处理大型Excel文件的方法,将上下文窗口使用量从8600万字符减少到一个小型JSON输出,并对比了OpenAI、Codex和Claude的解决方案。

0 人收藏 0 人点赞
#context-window

Tencent Hy4 Preview 在 SWE-bench Pro 上领先:7700亿总参数,490亿活跃参数,100万上下文长度,标志着其迄今为止最大的代际飞跃……

X AI KOLs Timeline · 2026-08-28 缓存

Tencent Hy4 Preview 以7700亿总参数、490亿活跃参数和100万上下文长度在 SWE-bench Pro 上领先,标志着其作为开源权重模型与前沿AI竞争的最大代际飞跃。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈