标签
本文介绍了CARGO,一种无需训练的路由框架,利用本地LLM在采样响应上的推理时一致性来决定何时卸载到云端模型,无需额外训练即可实现可控的协作比例。
本文提出RMemSafe,一种用于持续测试时自适应的可靠性门控扩展方法,当冻结源的预测熵变高时会减弱源锚定,从而防止源崩溃下的盲目锚定。该方法在CCC基准测试上实现了最先进的错误率降低。