标签
Agora引入了一种基于拍卖的任务分配机制,用于LLM智能体,将推理步骤视为可交易物品,并使用校准后的置信度将任务路由到最有能力的专家模型,从而在多个基准测试中提升推理性能。
本文提出了一种面向循环智能制造的边缘AI驱动分散式任务分配框架,该框架利用学习排序方法来匹配赢家选择的排序性质。仿真结果表明,在高负载和紧截止期限场景下,延迟、截止时间满足率和能源效率均得到改善。