标签
Headroom 是一个开源工具,可将 AI Agent 读取的工具输出、日志、RAG 片段等压缩 60-95%,同时保持答案质量不变,支持可逆压缩和跨 Agent 共享记忆。
EarlyTom是一个无需训练即可在视觉编码器早期压缩视觉token的框架,可减少首个token生成时间和计算成本,同时保持准确性,实现高达2.65倍的TTFT降低。
LiteFrame 为视频大语言模型引入了一种高效的视频编码器,采用压缩令牌蒸馏技术,在保持准确率的同时,能够处理多达8倍的帧数并降低35%的延迟,为长视频理解开创了新的帕累托前沿。
OpenHuman 是 TinyHumans AI 推出的一款开源桌面 AI 代理,它采用结构化本地记忆管道而非基于嵌入的检索方式。该项目迅速走红,已获得 20k+ GitHub 星标,并多次登上 Product Hunt 排行榜首位。
一个针对AI编码智能体的技能/插件,通过让智能体以简洁的“原始人”风格进行交流,同时保持技术准确性,将输出令牌减少约75%。支持多个压缩级别和多种智能体平台。
OmniRoute 是一个免费、开源的 AI 网关,连接超过 230 个提供商(包括 50 多个免费层级),具备智能路由和令牌压缩功能,可节省成本。它为 Claude Code、Cursor、Copilot 等各种 AI 工具提供统一端点。