anypick - 用于过滤和选择大型语言模型的库

Reddit r/AI_Agents 工具

摘要

一个Python和TypeScript库,用于下载大型语言模型目录,并构建管道以根据价格、延迟和基准测试等标准过滤和选择模型。

大家好!我正在开发一个Python+TypeScript库(相同的API,使用两种语言实现),它允许从OpenRouter或Vercel下载模型目录,构建管道以根据价格、延迟、基准测试和功能过滤大型语言模型,然后根据特定标准从过滤后的列表中选择最佳的大型语言模型(例如最佳价格、最佳吞吐量等)。我希望它能有助于构建不需要每三个月更换底层模型的大型语言模型系统!
查看原文

相似文章

datasette-llm 0.1a8

Simon Willison's Blog

datasette-llm 0.1a8 是 Datasette 插件的一个新版本,集成了大语言模型,支持直接在 Datasette 中进行 LLM 查询和分析。