@liquidai: 在上下文窗口中存储过多工具会增加延迟,并可能导致错误选择工具。在本演示中,我们……
摘要
Liquid AI 展示了如何使用 LFM2.5-ColBERT-350M 作为过滤器,从151个工具中仅选出最相关的五个,从而减少延迟并提高工具选择准确性。
查看缓存全文
缓存时间: 2026/06/20 16:18
在上下文窗口中存储过多工具会增加延迟,并可能导致工具选择错误。
在本演示中,我们使用 LFM2.5-ColBERT-350M 作为过滤器,仅从 151 个选项中选出最相关的五个工具。
即使没有经过特定的微调,它也能快速且可靠地运行。
在 @huggingface 上试用演示!https://huggingface.co/spaces/LiquidAI/colbert-tool-selection…
更多详情请访问我们的博客:https://liquid.ai/blog/lfm2-5-retrievers…
ColBERT Tool Selection - 由 LiquidAI 提供的 Hugging Face 空间
来源:https://huggingface.co/spaces/LiquidAI/colbert-tool-selection 正在从 HF Docker 仓库获取元数据⋯⋯
相似文章
@maximelabonne: LFM2.5-ColBERT-350M 是一个出奇可靠的智能工具选择器。我们给了它151个工具,它总能把最相关的5个挑出来……
LFM2.5-ColBERT-350M 是一个模型,能从151个工具中可靠地选出最相关的工具,节省令牌并提高准确性,非常适合代理型边缘模型。
@liquidai: 介绍 LFM2.5-Embedding-350M 和 LFM2.5-ColBERT-350M:两款为超快且精准的多语言检索模型
Liquid AI 推出 LFM2.5-Embedding-350M 和 LFM2.5-ColBERT-350M,这两款多语言检索模型经过优化,可在11种语言中实现快速准确的搜索,延迟低至1.5毫秒。
Liquid AI 发布 LFM2.5-8B-A1B
Liquid AI 发布了 LFM2.5-8B-A1B,这是一款边缘模型,拥有 128K 上下文窗口、38T 预训练 token 和大规模强化学习,支持工具调用和复杂任务,同时可运行于入门级笔记本电脑。
LiquidAI/LFM2.5-ColBERT-350M
LiquidAI 发布 LFM2.5-ColBERT-350M,这是一种后期交互多语言检索模型,同时还有一个密集双编码器变体,两者均基于 LFM2.5-350M-Base,支持 11 种语言,并设计为 RAG 管道的即插即用替代品。
ToolMenuBench:对可靠高效LLM代理的工具菜单过滤策略进行基准测试
ToolMenuBench是一个用于评估多步骤LLM代理中工具菜单过滤策略的基准测试。它表明,与未过滤的暴露相比,因果最小工具过滤显著提高了任务成功率并减少了Token使用量。