micro-llm

SupraLabs 发布了 Supra-Router-51M，这是一个拥有 5170 万个参数的微型 LLM，用于多任务基础设施路由，旨在决定是将提示词在边缘设备上本地处理还是发送到云端模型。在一个小型数据集上进行微调后，它使用多任务序列生成来实现稳健的路由。