token-compression

标签

Cards List
#token-compression

@GitTrend0x: AI Agent Token 压缩 60-95% 开源神器 https://github.com/chopratejas/headroom… 这就是 Headroom,6.7k star LLM Token 终极压缩神器!一句话干翻所有 …

X AI KOLs Timeline · 2026-06-03 缓存

Headroom 是一个开源工具,可将 AI Agent 读取的工具输出、日志、RAG 片段等压缩 60-95%,同时保持答案质量不变,支持可逆压缩和跨 Agent 共享记忆。

0 人收藏 0 人点赞
#token-compression

EarlyTom:早期Token压缩实现快速视频理解

Hugging Face Daily Papers · 2026-05-28 缓存

EarlyTom是一个无需训练即可在视觉编码器早期压缩视觉token的框架,可减少首个token生成时间和计算成本,同时保持准确性,实现高达2.65倍的TTFT降低。

0 人收藏 0 人点赞
#token-compression

LiteFrame 扩展视频大语言模型效率(6分钟阅读)

TLDR AI · 2026-05-21 缓存

LiteFrame 为视频大语言模型引入了一种高效的视频编码器,采用压缩令牌蒸馏技术,在保持准确率的同时,能够处理多达8倍的帧数并降低35%的延迟,为长视频理解开创了新的帕累托前沿。

0 人收藏 0 人点赞
#token-compression

@AlphaSignalAI:https://x.com/AlphaSignalAI/status/2056812644053418129

X AI KOLs Timeline · 2026-05-19 缓存

OpenHuman 是 TinyHumans AI 推出的一款开源桌面 AI 代理,它采用结构化本地记忆管道而非基于嵌入的检索方式。该项目迅速走红,已获得 20k+ GitHub 星标,并多次登上 Product Hunt 排行榜首位。

0 人收藏 0 人点赞
#token-compression

JuliusBrussee/caveman

GitHub Trending (daily) · 2026-07-02 缓存

一个针对AI编码智能体的技能/插件,通过让智能体以简洁的“原始人”风格进行交流,同时保持技术准确性,将输出令牌减少约75%。支持多个压缩级别和多种智能体平台。

0 人收藏 0 人点赞
#token-compression

diegosouzapw/OmniRoute

GitHub Trending (daily) · 2026-06-30 缓存

OmniRoute 是一个免费、开源的 AI 网关,连接超过 230 个提供商(包括 50 多个免费层级),具备智能路由和令牌压缩功能,可节省成本。它为 Claude Code、Cursor、Copilot 等各种 AI 工具提供统一端点。

1 人收藏 1 人点赞
← Previous
← 返回首页

提交意见反馈