anypick - 用于过滤和选择大型语言模型的库
摘要
一个Python和TypeScript库,用于下载大型语言模型目录,并构建管道以根据价格、延迟和基准测试等标准过滤和选择模型。
大家好!我正在开发一个Python+TypeScript库(相同的API,使用两种语言实现),它允许从OpenRouter或Vercel下载模型目录,构建管道以根据价格、延迟、基准测试和功能过滤大型语言模型,然后根据特定标准从过滤后的列表中选择最佳的大型语言模型(例如最佳价格、最佳吞吐量等)。我希望它能有助于构建不需要每三个月更换底层模型的大型语言模型系统!
相似文章
LLM规划器 - 根据你的用例/模型/预算选择设备,或根据你的设备选择模型。60+配置方案,50+模型,130+引用t/s来源,150+评测YouTube视频,待机+运行功耗,多区域价格,定期更新。
一个全面的网络工具和公共数据集,帮助用户选择适合运行LLM的硬件,包含60+配置方案、50+模型、性能基准测试和评测视频,支持模型与硬件的双向匹配。
适合各种预算的最佳LLM,每日更新
一款每日更新的工具,通过可视化和比较大语言模型的性能与API成本,帮助用户根据预算选择最优模型。
datasette-llm 0.1a8
datasette-llm 0.1a8 是 Datasette 插件的一个新版本,集成了大语言模型,支持直接在 Datasette 中进行 LLM 查询和分析。
在令牌级别引导LLM与智能体:一个支持令牌可视化控制、模型检查及数据标注的交互工具。
onPanda是一个交互式工具,专注于LLM与智能体的令牌级可视化与控制,提供数据标注、模型检查,并支持多模态操作,包括在浏览器中执行。
构建了包含10个代理的投资组合构建管线——宏观、筛选器、6位分析师、协调器、构建器——运行于6个LLM提供商之上
1rok是一个TypeScript框架,支持在多个LLM提供商上运行多代理投资组合构建管线,以对标它们在选股和仓位调整等金融任务上的表现。